Empleados de Destacadas Empresas de IA Expresan Preocupación por la Falta de Transparencia en la Industria
Un conjunto de empleados y antiguos trabajadores de prominentes compañías de inteligencia artificial (IA), incluyendo OpenAI, Google DeepMind y Anthropic, ha manifestado su inquietud por la falta de transparencia de estas empresas en relación con los potenciales peligros de esta avanzada tecnología. Señalan que esta opacidad se ve favorecida por la ausencia de una normativa global.
«Las compañías de IA disponen de información considerable, no accesible al público, acerca de las capacidades y limitaciones de sus sistemas, la efectividad de sus medidas de seguridad y los niveles de riesgo asociados a diversos tipos de perjuicios. No obstante, en la actualidad, sus obligaciones se limitan a compartir una porción reducida de esta información con los gobiernos, y carecen de cualquier compromiso con la sociedad civil», detalla el comunicado.
El documento, suscrito por once empleados y exempleados de la empresa desarrolladora de ChatGPT y dos de Google DeepMind (uno de los cuales trabajó previamente en Anthropic), subraya que los posibles riesgos de la IA abarcan «desde la intensificación de las desigualdades existentes y la propagación de desinformación y manipulación, hasta la pérdida de control sobre sistemas autónomos de IA, lo cual podría derivar en la extinción de la humanidad».
Los especialistas, algunos de los cuales prefirieron mantener el anonimato, expresan su «optimismo en que estos riesgos puedan ser atenuados adecuadamente con la colaboración de la comunidad científica, los responsables políticos y la ciudadanía».
«Sin embargo, las empresas de IA están sujetas a fuertes incentivos económicos para eludir una supervisión rigurosa, y consideramos que las estructuras actuales de gobernanza corporativa son insuficientes para modificar esta situación», enfatizan.
Llamamiento a una Mayor Protección para los Denunciantes
La ausencia de regulación y los rigurosos acuerdos de confidencialidad entre las empresas y sus empleados dificultan la presentación de denuncias contra estas compañías líderes, según se indica en el documento.
En este contexto, los expertos instan a las empresas a «comprometerse» a evitar acuerdos que prohíban «las críticas a la compañía relacionadas con preocupaciones sobre riesgos». Asimismo, solicitan la implementación de un mecanismo anónimo que permita a empleados y exempleados comunicar «inquietudes sobre riesgos a la junta directiva de la empresa, a los organismos reguladores y a una entidad independiente pertinente con la experiencia adecuada».
El Objetivo de la Inteligencia Artificial General
OpenAI, que inició sus actividades como un laboratorio de investigación sin ánimo de lucro y alcanzó un notable reconocimiento con ChatGPT en 2022, se encuentra desarrollando la inteligencia artificial general (IAG), un sistema con la capacidad de ejecutar cualquier tarea que un humano pueda realizar, según fuentes especializadas del sector.
En marzo de 2023, un conjunto de empresarios del sector tecnológico, junto con expertos y figuras políticas, emitieron una carta con un tono de advertencia, solicitando la suspensión temporal, por un período de seis meses, de los experimentos con IA de alta potencia, debido a que consideran que «podrían representar riesgos significativos para la sociedad y la humanidad».
Google se perfila como uno de los principales competidores de los chatbots de OpenAI (que recibe el respaldo de Microsoft), aunque otras compañías, como Anthropic, fundada por antiguos empleados de OpenAI, también están ganando terreno en este ámbito.
Avances Limitados en la Regulación de la IA
Actualmente, no existe una normativa internacional que regule la Inteligencia Artificial.
En marzo, el Parlamento Europeo aprobó la Ley de IA de la Unión Europea, la primera legislación a nivel mundial que aborda la regulación de esta tecnología, aunque su entrada en vigor está prevista para 2026.
El Parlamento Europeo encarrila la primera ley de inteligencia artificial del mundo
Por su parte, la ONU ha reiterado a los Estados miembros la necesidad apremiante de alcanzar un consenso sobre una regulación y ha establecido un ‘consejo asesor’ con este propósito, aunque hasta la fecha no se han logrado resultados concretos.
Insights de Evox News: Cómo la Falta de Transparencia en la IA Puede Impactar tu Negocio
La denuncia de los empleados de las empresas de IA sobre la opacidad en el desarrollo de esta tecnología plantea importantes interrogantes para el mundo empresarial. Esta falta de transparencia puede tener varias repercusiones:
Riesgo Reputacional y de Confianza: La incertidumbre sobre los riesgos potenciales de la IA y la falta de control sobre su desarrollo pueden generar desconfianza en los consumidores y en el público en general. Las empresas que utilicen o desarrollen IA podrían enfrentarse a un daño reputacional si no son transparentes sobre sus prácticas y medidas de seguridad.
Obstáculos para la Innovación Responsable: La falta de información compartida entre empresas, gobiernos y sociedad civil dificulta la creación de un marco regulatorio adecuado y la implementación de prácticas de desarrollo de IA responsables. Esto podría frenar la innovación al generar un ambiente de incertidumbre legal y ética.
Desventaja Competitiva a Largo Plazo: Si bien la opacidad puede parecer una ventaja competitiva a corto plazo, a largo plazo podría ser perjudicial. Las empresas que no adopten una postura proactiva en cuanto a la transparencia y la ética en la IA podrían quedarse atrás a medida que aumenten las exigencias regulatorias y las expectativas de los consumidores.
Impacto en la Adopción de la Tecnología: Si no se aborda adecuadamente la preocupación del público, las empresas podrian tener dificultades a la hora de adoptar esta tecnología.
Las empresas deben considerar la transparencia y la ética como pilares fundamentales en su estrategia de IA, no solo para mitigar riesgos, sino también para construir una ventaja competitiva sostenible y fomentar la confianza en esta tecnología transformadora
