La Inteligencia Artificial: ¿Arma y Escudo en la Lucha Contra la Desinformación?
Las campañas de desinformación representan un peligro latente para la seguridad de los Estados democráticos y sus procesos electorales. La inteligencia artificial (IA) emerge como un factor determinante en este escenario, actuando tanto de herramienta de propagación como de mecanismo de defensa, según revela un informe del Departamento de Seguridad Nacional (DSN).
Un análisis exhaustivo realizado por el foro contra las campañas de desinformación, presentado en el Centro Superior de Estudios de la Defensa Nacional (CESEDEN), congregó a académicos y profesionales de la comunicación y la verificación. En este encuentro, se resaltó el rol dual de la IA, especialmente la generativa, como amplificador y, al mismo tiempo, como antídoto contra la desinformación.
La directora del DSN, la general Loreto Gutiérrez Hurtado, enfatizó la amenaza que representan estas campañas: «Nos enfrentamos a campañas de desinformación, manipulación informativa e injerencias extranjeras orquestadas por actores hostiles que emplean el ciberespacio. Esta actividad repercute en la seguridad nacional y pone en jaque la libertad de los ciudadanos».
Gutiérrez Hurtado instó a la colaboración entre los sectores público y privado, así como a la cooperación multidisciplinaria e internacional, con el objetivo de desarrollar «mecanismos conjuntos que permitan la detección temprana de posibles amenazas».
Facilidad y Accesibilidad en el Uso de la IA
El informe subraya que la IA se ha vuelto «más accesible y fácil de usar» para la creación, publicación y difusión de desinformación. Se hace especial hincapié en la proliferación de ‘deepfakes’ (manipulaciones de imágenes, videos o audios) y la generación de noticias falsas. Esta situación plantea un desafío considerable para la creación de una «respuesta proporcional a la magnitud» de la amenaza.
No obstante, las herramientas basadas en IA también pueden desempeñar un papel crucial en la detección, moderación y alerta temprana de campañas de desinformación, siempre y cuando se «entrenen» de manera adecuada.
Por ejemplo, al exponer a los modelos de IA a contenidos previamente catalogados como falsos o verdaderos, estos pueden «tratar de deducir si un nuevo contenido presenta una alta probabilidad de ser falso».
Priorización del Contenido a Verificar
Estas herramientas ya se utilizan para priorizar el contenido que requiere verificación, como en la moderación de redes sociales. Sin embargo, es fundamental tener en cuenta que un contenido no clasificado como falso por estos modelos no es automáticamente verdadero; simplemente, la IA no ha logrado realizar dicha predicción basándose en los modelos con los que fue entrenada.
El Foro destaca que la IA también puede contribuir en la elaboración de desmentidos por parte de periodistas y verificadores, facilitando, por ejemplo, la búsqueda de información veraz relacionada con la publicación falsa o la visualización de datos abiertos relevantes.
«Si la IA se adopta masivamente para desinformar, una de las principales herramientas para identificar estos contenidos manipulados deberá ser, a su vez, la IA», sostiene el informe. Asimismo, se resalta la labor de los verificadores, ya que la desinformación «suele depender del contexto y de una serie de matices y circunstancias que una máquina no puede evaluar de forma precisa».
La Desinformación como Instrumento Bélico y de Afiliación Grupal
La expansión de la inteligencia artificial y su capacidad para generar desinformación la transformarán en un nuevo «instrumento de guerra», aseguró Carlos Galán, profesor asociado de la Universidad Carlos III y miembro del Foro.
El estudio, que dedica un capítulo completo a Rusia, alerta sobre la «estrategia» rusa de desinformación, «integrada en su propio plan de guerra» y con el «objetivo evidente» de «causar daño, principalmente a los países occidentales», en palabras de Galán.
El Foro también señala la conexión entre desinformación y radicalización en el panorama geopolítico actual. La investigadora Sara Degli Esposti explicó que, desde la perspectiva de las dinámicas grupales y la construcción de identidades, «la verdad pierde relevancia».
«Al integrarnos en una dinámica de grupo, nuestra necesidad de pertenencia es tan intensa que nos volvemos vulnerables a aceptar y creer medias verdades o falsedades, incluso si reconocemos que la información recibida no es correcta», afirmó.
Para continuar analizando el impacto de las campañas de desinformación en la sociedad, los expertos han propuesto la creación de un Instituto de Investigación sobre el Entorno de Información.
Insights de Evox News: Cómo la IA y la Desinformación Pueden Impactar tu Negocio
La creciente influencia de la IA en la propagación y lucha contra la desinformación presenta tanto riesgos como oportunidades para las empresas:
- Reputación y Confianza: La proliferación de ‘deepfakes’ y noticias falsas puede dañar la reputación de una empresa y erosionar la confianza de los clientes. Es crucial implementar estrategias de monitoreo y respuesta rápida para contrarrestar la desinformación.
- Toma de Decisiones: La desinformación puede afectar la toma de decisiones empresariales al distorsionar la información del mercado, las tendencias de consumo y la percepción de la competencia. Las empresas deben invertir en herramientas de verificación y análisis de datos para asegurar la precisión de la información que utilizan.
- Ventaja Competitiva: Las empresas que adopten proactivamente herramientas de IA para detectar y combatir la desinformación pueden obtener una ventaja competitiva. Esto incluye el desarrollo de capacidades internas de verificación, la colaboración con plataformas de verificación externas y la implementación de estrategias de comunicación transparentes.
- Innovación: La lucha contra la desinformación impulsará la innovación en tecnologías de IA, como el procesamiento del lenguaje natural y la visión artificial. Las empresas que inviertan en estas áreas pueden desarrollar soluciones innovadoras para protegerse a sí mismas y a sus clientes.
- Cumplimiento Normativo: Es probable que los gobiernos implementen regulaciones más estrictas sobre la desinformación y la IA. Las empresas deben anticiparse a estos cambios y adaptar sus prácticas para garantizar el cumplimiento normativo.
