El Columbia Journalism Review lanza una campaña para detectar imágenes generadas por IA
Para ver un recorrido por las imágenes virales generadas por IA más icónicas, basta con observar un nuevo anuncio de servicio público diseñado para ayudar a las personas a identificar contenido falso generado por inteligencia artificial. En él, encontrarás clásicos como un bebé saltando en paracaídas, al Papa Francisco (en su momento) luciendo una elegante parka de diseñador, una tripulación de barco que no rescató realmente a un oso polar bebé y, por supuesto, a Will Smith lamiendo espagueti. Esa meme de hace unos años se convirtió en un hito temprano de cuánto tenía que mejorar la IA para crear imágenes convincentes.
Desde entonces, mucho ha cambiado. Las herramientas de IA para generar imágenes y videos han avanzado hacia la realidad a una velocidad asombrosa. Estas mejoras abren incontables posibilidades creativas, pero también aumentan el riesgo de que las personas confundan lo falso con lo real, a veces con consecuencias graves.
“Está en juego la confianza en la información verificada y el健康 de la democracia”, dijo Betsy Morais, editora interina de la Revista de Periodismo de Columbia, la publicación para periodistas del Graduate School of Journalism de la Universidad de Columbia. Fue esto lo que motivó a CJR a lanzar PSAi, una campaña destinada a ayudar al público a distinguir lo real de lo generado por IA.
“Durante más de un siglo, la fotografía ha sido una de las herramientas más grandes que los periodistas han tenido para establecer la verdad y la confianza”, se lee en la descripción de la campaña. “Pero las imágenes generadas por IA están haciendo cada vez más difícil distinguir lo real de lo falso”.
Como parte de PSAi, CJR se unió con la agencia creativa TBWAChiatDay New York para producir un breve video musical que actúa como una introducción rápida a las bases de detección de IA. El video acompaña algunas de las imágenes generadas por IA más conocidas con una canción estilo rap de los años 90 que ofrece consejos que pueden parecer obvios para quienes están familiarizados con las rarezas de la IA, pero no lo son para las personas que se dejan engañar.
“Los dedos extras son una señal inequívoca, igual que la piel con un brillo perfecto”, van las letras. “El cabello impecable, suave y limpio, las caras distorsionadas en el fondo de la escena”.
Para crear el video, el equipo de TBWAChiatDay recorrió las plataformas sociales en busca de imágenes generadas por IA, desde las cargadas emocionalmente —una niña asustada navegando en las aguas de Katrina con su perro— hasta lo francamente extraño (estoy mirando a ti, “Señor Jesús de la Langosta”). Las imágenes fueron seleccionadas no solo porque fueron “me gusta” y compartidas ampliamente, sino porque engañaron a las personas para que las creyeran reales.
Qué herramientas de IA se utilizaron para resaltar los riesgos
El equipo animó las imágenes usando las herramientas de generación y edición de videos de IA de Runway, específicamente su función Act-One, la cual permite animar expresiones faciales y sincronizar los movimientos de la boca con el habla. En el caso del video PSAi, los sujetos de las imágenes parecen sincronizar sus labios con las letras del rap. “Eso es cómo detectas la IA”, canta el CEO de Meta, Mark Zuckerberg, mientras se asoma a una ventana (¿te acuerdas de esa?).
Un estudio reciente de iProov reveló que muchas personas no pueden detectar un deepfake, con el 20% de los consumidores encuestados diciendo que ni siquiera saben qué son. Dustin Tomes, jefe creativo de TBWAChiatDay New York, subrayó que PSAi no está destinado a ser una declaración anti-IA, sino una herramienta educativa.
“El PSAi está diseñado para dar a las personas herramientas sencillas y efectivas para distinguir la diferencia, sin requerir demasiado esfuerzo”, dijo Tomes en un comunicado. “Esto no es una bala de plata, pero al ofrecer esta educación de manera memorable, esperamos que más personas se enganchen y apliquen estas lecciones. Al fin y al cabo, las fake news no se propagan solas”.
El video ciertamente es llamativo, incluso sin la presencia del “kangaroo de apoyo emocional” favorito de internet.
Insights de Evox News: Cómo esta noticia puede impactar tu negocio
La creciente capacidad de las imágenes generadas por IA para engañar a las personas trae consigo desafíos significativos para las empresas. En un mundo donde la información es clave, la confianza del público en la autenticidad de las imágenes y videos es esencial. Las empresas que no eduquen a sus equipos y clientes sobre cómo detectar contenido falso podrían enfrentar problemas de credibilidad y reputación. Por otro lado, las empresas que lideren en la educación sobre IA y la transparencia en su uso podrán ganar una ventaja competitiva, demostrando un compromiso con la integridad y la innovación responsable. Además, las herramientas de IA para la creación de contenido abren nuevas posibilidades creativas, pero también exigen una prudencia especial para evitar la difusión de información falsa, algo crítico en la era digital actual.
