Un exempleado de OpenAI advierte sobre los riesgos de una IA superinteligente
Un antiguo trabajador de OpenAI, quien recientemente suscribió una misiva junto a otros colegas de la compañía desarrolladora de ChatGPT para exponer la falta de transparencia en torno a los potenciales peligros de la inteligencia artificial (IA), alerta a Evox News sobre el riesgo de una competencia en el sector por desarrollar una super IA o inteligencia artificial general (IAG) que supere la inteligencia humana.
Carroll Wainwright, quien hasta la semana pasada formaba parte del equipo de alineamiento práctico y superalineamiento de OpenAI, encargado de asegurar que los modelos más avanzados de la empresa sean seguros y respeten los valores humanos, presentó su dimisión.
Una IA superior al ser humano
Tras el lanzamiento del chatbot ChatGPT, que superó incluso las expectativas de la propia compañía, Wainwright se integró a un equipo de superalineamiento. El objetivo era investigar, a medida que OpenAI desarrollaba modelos cada vez más sofisticados, las intervenciones técnicas necesarias para mantener el control sobre ellos.
A diferencia de la IA generativa, la IAG no solo sería capaz de replicar acciones humanas como escribir o dibujar, capacidades ya presentes en la IA generativa, sino que también comprendería la complejidad y el contexto de sus actos.
Esta tecnología aún no es una realidad. Mientras que algunos expertos, como Elon Musk, pronostican su llegada en aproximadamente dos años, otros, como Robin Li, CEO de Baidu, uno de los gigantes tecnológicos de China, estiman que tardará una década.
Wainwright considera que podría materializarse en unos cinco años: «No es seguro que ocurra en ese plazo, pero creo que es posible. También podría tardar mucho más. Sin embargo, ante algo con el potencial de transformar el mundo, debemos ser extremadamente cautelosos», puntualiza.
No obstante, el extrabajador aclara que su renuncia y posterior firma de la carta no se deben al descubrimiento de algo «alarmante», ya que, por el momento, OpenAI solo está explorando la posibilidad de crear esta tecnología.
La transformación de OpenAI
El principal catalizador de su dimisión fue el cambio de rumbo de la compañía, que inició como un laboratorio de investigación sin ánimo de lucro «con la misión de que esta tecnología beneficiara a la humanidad», pero que experimentó una transformación tras el rotundo éxito de ChatGPT en 2022.
«Considero que las motivaciones que guían las acciones diarias de OpenAI son, casi en su totalidad, incentivos para generar ganancias», afirma Wainwright.
Los riesgos clave de la IAG
Wainwright destaca tres peligros principales asociados a la IAG: el desplazamiento de trabajadores, especialmente en empleos cualificados; el impacto social y psicológico, ya que las personas podrían desarrollar relaciones con asistentes personales de IA; y, finalmente, el control de la tecnología.
«El riesgo de alineamiento a largo plazo surge si se desarrolla un modelo que supera la inteligencia humana. ¿Cómo garantizar que ese modelo actúe conforme a los deseos humanos o que no desarrolle objetivos propios? La existencia de objetivos propios en la máquina sería motivo de preocupación», explica.
Wainwright considera que las principales empresas de IA acatarán las regulaciones, pero el problema reside en la falta de implementación actual. Por ello, los empleados del sector solicitan en su carta la creación de un mecanismo que permita a los trabajadores alertar a un organismo independiente sobre los riesgos que perciben en sus empresas.
Según el exempleado, el desafío para los gigantes de la IA no es la ausencia de seguridad, sino la velocidad impuesta por la competencia entre empresas, principalmente entre OpenAI y Google.
«El hecho de que nadie desee un desenlace catastrófico no implica que se tomarán el tiempo necesario para evitarlo, dado el incentivo de competir y superar a los demás», enfatiza.
El Parlamento Europeo ratificó en marzo la ley de IA de la Unión Europea (UE), pionera en la regulación de esta tecnología a nivel mundial, aunque su entrada en vigor no se producirá hasta 2026. Adicionalmente, medios especializados informaron recientemente que los reguladores de Estados Unidos iniciarán investigaciones antimonopolio contra Microsoft, OpenAI y Nvidia para evaluar su influencia en el sector.
Insights de Evox News: Cómo la evolución de la IA puede impactar tu negocio
La rápida evolución de la inteligencia artificial, y la posible llegada de la Inteligencia Artificial General (IAG), presentan tanto oportunidades como desafíos significativos para las empresas.
Automatización y eficiencia: La IAG podría automatizar tareas complejas que actualmente requieren intervención humana, lo que se traduce en una mayor eficiencia operativa y reducción de costes. Las empresas deben evaluar qué procesos pueden ser optimizados mediante la IA para mantener su competitividad.
Innovación y nuevos modelos de negocio: La IAG tiene el potencial de generar nuevos productos, servicios y modelos de negocio disruptivos. Las empresas que adopten y se adapten a estas tecnologías emergentes podrían obtener una ventaja competitiva significativa.
Gestión del talento y la fuerza laboral: El desplazamiento de roles laborales tradicionales es una preocupación real. Las empresas deben invertir en la capacitación y el desarrollo de habilidades de sus empleados para prepararlos para los trabajos del futuro, enfocándose en áreas donde la IA complemente, no reemplace, las capacidades humanas.
Consideraciones éticas y regulatorias: La creciente preocupación por la ética y la regulación de la IA exige que las empresas adopten un enfoque proactivo. Implementar marcos de gobernanza de IA, garantizar la transparencia y la responsabilidad en el uso de estas tecnologías, y cumplir con las regulaciones emergentes serán cruciales para mantener la confianza del público y evitar sanciones.
Ventaja competitiva a través de la velocidad: Como se menciona en el artículo, la velocidad a la que se desarrolla la IA es un factor crítico. Las empresas que puedan adaptarse rápidamente a los cambios y adoptar nuevas tecnologías de IA antes que sus competidores tendrán una ventaja significativa en el mercado.
Riesgo de disrupción: No se debe ignorar la capacidad disruptiva de la IA. Los modelos de negocios tradicionales pueden verse desestabilizados por la innovación que trae esta tecnología, por lo que las empresas deben estar preparadas para cambiar y adaptarse
