Presentan queja formal en EE.UU. contra ChatGPT de OpenAI solicitando su suspensión por preocupaciones sobre IA
Una entidad que recientemente respaldó una petición para detener por seis meses los experimentos con inteligencia artificial (IA) de gran capacidad, ha interpuesto una denuncia en Estados Unidos contra la firma tecnológica OpenAI, responsable de ChatGPT. La base de la queja es que la tecnología subyacente, GPT-4, presuntamente infringe la legislación de protección al consumidor.
El Center for AI and Digital Policy (CAIDP) formalizó esta acción ante la Comisión Federal de Comercio (FTC) estadounidense, argumentando que el sistema GPT-4 es «parcial, engañoso y representa un riesgo para la privacidad y la seguridad pública».
Marc Rotenberg, presidente del CAIDP, declaró: «La FTC posee la responsabilidad inequívoca de investigar y prohibir prácticas comerciales desleales y engañosas. Consideramos que la FTC debe evaluar minuciosamente a OpenAI y GPT-4».
De acuerdo con Rotenberg, OpenAI no está adhiriendo a las directrices sugeridas por la FTC, como la exigencia de que las compañías de IA garanticen «la solidez empírica de los datos y de los modelos» que implementan, así como su transparencia operativa.
La queja enfatiza que esta tecnología carece de las protecciones necesarias para contener la parcialidad y el posible engaño.
Rotenberg fue una de las figuras del ámbito tecnológico y empresarial que firmaron recientemente una carta abierta con tono de advertencia, solicitando una moratoria de seis meses en los experimentos con IA muy avanzada (más allá de GPT-4), al considerar que «pueden plantear profundos riesgos para la sociedad y la humanidad».
«La sociedad ha detenido temporalmente otras tecnologías con efectos potencialmente catastróficos. Podemos hacer lo mismo aquí. Tomemos una prolongada pausa estival de la IA y evitemos precipitarnos sin la preparación adecuada», señalaba el documento difundido por la organización sin ánimo de lucro Future of Life Institute.
Voces destacadas expresan inquietud sobre la IA
Entre quienes apoyaron la carta se encuentran personalidades como Elon Musk, director ejecutivo de Tesla, y Steve Wozniak, cofundador de Apple. Estos firmantes también instan a la intervención de los gobiernos si las empresas involucradas no acceden a esta solicitud de pausa.
«La IA avanzada podría suponer un cambio profundo en la historia de la vida en la Tierra, y debería ser planificada y gestionada con el debido cuidado y recursos», afirmaba la misiva. Esta también criticaba «que los laboratorios de IA se han embarcado en una carrera descontrolada para desarrollar y desplegar mentes digitales cada vez más potentes».
GPT, acrónimo de «Generative Pre-trained Transformers» (Transformadores Preentrenados Generativos), es un tipo de modelo de aprendizaje automático empleado para generar lenguaje natural similar al humano. GPT-4 supone un salto cualitativo respecto a modelos previos similares.
El laboratorio OpenAI califica a GPT-4 como su «más reciente logro en la iniciativa de escalar el aprendizaje profundo». Este nuevo sistema es capaz de procesar entradas tanto de texto como de imágenes, generando salidas textuales.
No obstante, la propia OpenAI reconoce que GPT-4 aún es menos competente que los seres humanos en múltiples escenarios del mundo real, aunque «exhibe un rendimiento equiparable al humano en diversas pruebas de referencia académicas y profesionales».
Insights de Evox News: Cómo la creciente fiscalización de la IA puede impactar tu negocio
La denuncia contra OpenAI y el llamado general a una pausa en el desarrollo de IA avanzada señalan un punto de inflexión con implicaciones directas para las empresas.
Impacto Económico
La incertidumbre regulatoria y las preocupaciones éticas pueden ralentizar las inversiones en IA a corto plazo. Las empresas que dependen de estas tecnologías o planean integrarlas podrían enfrentar mayores costos de cumplimiento o retrasos en la implementación si se imponen regulaciones más estrictas. Por otro lado, un enfoque más cauteloso podría fomentar una adopción más estable y confiable a largo plazo, reduciendo riesgos de crisis reputacionales o fallos sistémicos.
Ventaja Competitiva
Las empresas que aborden proactivamente las cuestiones éticas, de sesgo y seguridad en sus implementaciones de IA podrían ganar una ventaja competitiva significativa basada en la confianza del cliente y la robustez de sus sistemas. Ignorar estas preocupaciones podría llevar a desventajas, sanciones o pérdida de mercado. Una posible pausa en el desarrollo podría nivelar temporalmente el campo de juego, permitiendo a las empresas más pequeñas o a los seguidores rápidos ajustar sus estrategias.
Innovación
Si bien una moratoria podría frenar la innovación de vanguardia momentáneamente, también podría redirigir los esfuerzos hacia áreas cruciales como la seguridad, la explicabilidad y el control de la IA. Esto puede generar nuevas oportunidades de negocio en torno a la auditoría de IA, el desarrollo de herramientas de mitigación de riesgos y la creación de sistemas más transparentes y justos. Las empresas que inviertan en «IA responsable» podrían liderar la próxima ola de innovación sostenible en este campo.
