La Amenaza Creciente de los «Deepfakes»: Más Allá de la Detección Tecnológica
El contenido sintético, o falso, ha experimentado un crecimiento exponencial en los últimos años. Investigaciones de Amazon sugieren que hasta un 60% del contenido en internet podría ser generado por Inteligencia Artificial (IA).
No todo este contenido entra en la categoría de «deepfake», que se refiere específicamente a aquel material diseñado para ser engañoso y convincente.
En tiempos recientes, hemos sido testigos del uso de deepfakes para manipular procesos electorales, perpetrar fraudes y robos, e incluso crear imágenes pornográficas de individuos sin su consentimiento.
Se prevé que estos problemas se agraven a medida que las herramientas de IA se vuelven más potentes y accesibles. Grok 3, desarrollado por xAI de Elon Musk, por ejemplo, es ahora gratuito para todos los usuarios de X (Twitter) y puede utilizarse para crear deepfakes convincentes de personas reales.
Existen numerosas herramientas disponibles para protegerse contra el engaño o el abuso perpetrado por los deepfakes. Las herramientas de detección basadas en IA pueden determinar, con diversos grados de éxito, si el contenido ha sido generado o manipulado digitalmente. La autenticación multifactor y otras herramientas de verificación de identidad digital también pueden ofrecer protección contra ataques de ingeniería social.
Sin embargo, la tecnología deepfake evoluciona y mejora a un ritmo tan rápido que estas medidas no son suficientes. Por ello, la educación, el pensamiento crítico y la concienciación son igualmente importantes, si no más, para quienes buscan protegerse.
Pensamiento Crítico y Concienciación: Las Defensas Humanas
La tecnología puede contribuir a la protección contra los deepfakes, pero no ofrece todas las respuestas ni es 100% fiable.
Por esta razón, se considera que la mejor defensa contra la desinformación generada por IA reside en las habilidades humanas de concienciación contextual y pensamiento crítico.
Las empresas necesitan capacitar a sus empleados para que puedan evaluar la información y el contenido de forma crítica. Como individuos, debemos comprender cómo y por qué aquellos con malas intenciones intentarán influir en nuestros pensamientos y decisiones, incluidas nuestras decisiones democráticas.
Los deepfakes plantean desafíos únicos que requieren habilidades específicas para ser abordados:
La verificación de hechos y la comprobación de fuentes son dos habilidades obvias y vitales en la actualidad. Es crucial verificar nuestras fuentes y determinar el origen real de la información. Facebook ha implementado algunas funciones que advierten a los usuarios cuando la información puede ser engañosa, por ejemplo, cuando proviene de fuentes que parecen ocultar su identidad.
No obstante, también ha sido objeto de críticas por eliminar sus funciones de verificación de hechos, lo que podría interpretarse como un retroceso.
La concienciación contextual a menudo puede ser tan simple como preguntarse: «¿Tiene sentido esto?».
Ser consciente del contexto y la situación probablemente ayudó a muchas personas en 2022 a darse cuenta de que este vídeo de Volodymyr Zelensky rindiéndose a Rusia no era genuino.
El empleado de la firma de ingeniería Arup, que fue engañado para transferir 25 millones de dólares a estafadores utilizando un deepfake de la voz de su jefe, podría haber estado mejor preparado si hubiera sido más consciente de la naturaleza inusual de la solicitud.
Las habilidades de pensamiento crítico nos ayudan a cuestionar la procedencia de la información y las motivaciones detrás de ella. El contenido de desinformación a menudo juega con las emociones de forma extrema para causar miedo, ira o excitación. Afortunadamente, podemos ser entrenados para detectar cuándo estamos siendo manipulados de esta manera.
Por lo tanto, tres aspectos que deberíamos aprender a considerar sobre cualquier contenido que consumimos son:
¿Intenta influenciarme?
¿Es probable que haya sucedido?
¿Puedo confiar en la persona que me lo dice?
Reforzar la importancia de este enfoque de pensamiento crítico sobre el contenido es vital para protegernos del impacto de los deepfakes.
Adaptándose a un Mundo «Post-Verdad»
La tecnología deepfake se volverá cada vez más sofisticada. Es probable que lleguemos a un punto en el que incluso las mejores herramientas de detección no siempre puedan identificar vídeos, imágenes o audios falsos.
Los mecanismos de defensa humanos que hemos tratado aquí (pensamiento crítico, concienciación y razonamiento) probablemente seguirán siendo defensas viables durante más tiempo.
¿Nos protegerá la regulación? Gobiernos de algunos países, como China y la UE, ya han introducido regulaciones relativas a los deepfakes. Desafortunadamente, los delincuentes no siempre acatan la ley.
Por lo tanto, las organizaciones deben reaccionar ahora para garantizar que todos comprendan los procedimientos y políticas en torno a la verificación y evaluación crítica de la información antes de actuar en consecuencia.
Para los individuos, la concienciación sobre los peligros de la desinformación de la IA, ya sea que intente influir en nuestro voto o en a quién donamos dinero, debería convertirse en algo natural.
Esto debería ayudarnos a mantenernos en el camino correcto en un futuro en el que no estemos seguros de poder confiar en lo que vemos con nuestros propios ojos.
Insights de Evox News: Cómo los Deepfakes Pueden Impactar tu Negocio
La proliferación de los deepfakes presenta desafíos significativos para las empresas en varios frentes:
- Riesgo Reputacional: Los deepfakes pueden ser utilizados para crear contenido falso que dañe la imagen de una empresa, sus líderes o sus productos. Esto puede erosionar la confianza del cliente y afectar negativamente las ventas y el valor de la marca.
- Fraude y Seguridad: Los deepfakes pueden ser empleados para suplantar la identidad de ejecutivos o empleados, facilitando fraudes financieros, robos de información confidencial o ataques de ingeniería social.
- Toma de Decisiones: La desinformación generada por deepfakes puede afectar la toma de decisiones empresariales, llevando a estrategias erróneas basadas en datos falsos o manipulados.
- Ventaja Competitiva: Las empresas que adopten proactivamente estrategias para mitigar los riesgos asociados a los deepfakes, como la capacitación de empleados en pensamiento crítico y la implementación de tecnologías de detección, obtendrán una ventaja competitiva al proteger su reputación, sus activos y sus procesos de toma de decisiones.
- Innovación: La amenaza de los deepfakes impulsa la necesidad de innovar en soluciones de seguridad y autenticación, creando oportunidades para empresas que desarrollen tecnologías y servicios en este campo.
En resumen, la amenaza de los deepfakes exige que las empresas adopten una postura proactiva, invirtiendo en capacitación, tecnología y procesos que les permitan mitigar los riesgos y aprovechar las oportunidades asociadas a esta nueva realidad.
