La Unión Europea Alcanza un Acuerdo Histórico sobre la Primera Ley de Inteligencia Artificial del Mundo
Bruselas – Las instituciones de la Unión Europea han llegado a un acuerdo sobre la ley de inteligencia artificial, una normativa pionera que regula el uso de esta tecnología en función del riesgo que representa para los ciudadanos. La ley busca, además, fortalecer la industria europea en este campo frente a competidores globales como China y Estados Unidos.
Ursula von der Leyen, presidenta de la Comisión Europea, declaró en la red social X (anteriormente conocida como Twitter): «La ley de IA de la UE es pionera a nivel mundial. Un marco legal único para el desarrollo de una inteligencia artificial en la que se puede confiar».
El acuerdo, resultado de intensas negociaciones que se extendieron por 36 horas, aún debe ser ratificado formalmente por el Parlamento Europeo y el Consejo de la UE, este último representando a los gobiernos de los estados miembros.
Vigilancia en Tiempo Real: Un Punto Clave del Debate
Uno de los aspectos más delicados de las negociaciones fue la regulación del uso de cámaras de identificación biométrica en espacios públicos por parte de las fuerzas del orden, con el objetivo de preservar la seguridad nacional.
Se permitirá el uso de estas cámaras, previa autorización judicial, para prevenir amenazas terroristas consideradas «genuinas y previsibles» o «genuinas y presentes», es decir, aquellas que estén ocurriendo en el momento.
Asimismo, se podrán emplear para la localización o identificación de individuos que hayan cometido delitos graves como terrorismo, trata de personas, explotación sexual o delitos ambientales, así como para la búsqueda de víctimas de estos crímenes.
Durante las conversaciones, los gobiernos buscaron ampliar la lista de delitos que justificarían el uso de esta tecnología, mientras que el Parlamento Europeo se esforzó por restringirla al máximo, estableciendo sólidas garantías para la protección de los derechos fundamentales.
Sistemas Prohibidos: Protección de la Privacidad y la Libertad
La normativa establece una prohibición explícita de todos los sistemas de categorización biométrica basados en creencias políticas, religiosas, filosóficas, así como en la raza y la orientación sexual de las personas.
También se prohíben los sistemas que evalúen a los individuos en función de su comportamiento o características personales, así como aquellos sistemas de inteligencia artificial diseñados para manipular el comportamiento humano.
Además, se veta el uso de sistemas para expandir o crear bases de datos faciales mediante la recopilación indiscriminada de datos a través de Internet o grabaciones audiovisuales.
En entornos laborales y educativos, se prohíben los sistemas de inteligencia artificial capaces de reconocer las emociones de las personas.
IA Generativa: Transparencia y Derechos de Autor
Otro tema central de las negociaciones fue la regulación de los sistemas de inteligencia artificial generativa, como ChatGPT de OpenAI o Bard de Google.
Estos sistemas deberán cumplir con estrictos criterios de transparencia, incluyendo la obligación de especificar si un texto, canción o imagen ha sido generado mediante inteligencia artificial. Además, se deberá garantizar que los datos utilizados para entrenar estos sistemas respeten los derechos de autor.
Aunque la propuesta original de la ley, presentada en abril de 2021, no contemplaba la regulación de estos sistemas, la rápida popularización de ChatGPT el año pasado llevó a las instituciones comunitarias a considerar su inclusión en la normativa.
Si bien el reglamento no prohíbe el uso de la IA generativa, establece una serie de criterios para identificar aquellos modelos que puedan representar un alto riesgo en función del contexto de uso, exigiendo a sus desarrolladores el cumplimiento de salvaguardas más rigurosas antes de su lanzamiento al mercado.
Negociaciones Intensas: Un Futuro por Definir
Fuentes cercanas a las conversaciones describieron las negociaciones como «apasionadas», reflejando la complejidad de regular una tecnología con un enorme potencial para la sociedad, pero que también plantea interrogantes y desafíos que los propios desarrolladores de IA aún no pueden responder por completo.
El reglamento establece una clasificación de los sistemas de inteligencia artificial en función del riesgo que suponen para las personas, permitiendo o prohibiendo su uso en consecuencia. Los sistemas considerados de alto riesgo solo podrán utilizarse si se demuestra que respetan los derechos fundamentales.
Ejemplos de sistemas de alto riesgo incluyen aquellos que puedan influir en el resultado de elecciones o los utilizados por entidades financieras para evaluar la solvencia y determinar la calificación crediticia de los solicitantes.
La presidencia española del Consejo de la UE ha logrado uno de sus principales objetivos de este semestre con el acuerdo sobre esta ley pionera.
Carme Artigas, secretaria de Estado española de Telecomunicaciones e Infraestructura Digital, afirmó: «Hemos alcanzado un hito importante, que los ciudadanos podamos decidir qué se puede hacer y qué no con la inteligencia artificial».
Oficina Europea de Inteligencia Artificial: Coordinación y Asesoramiento
La normativa contempla la creación de una Oficina Europea de Inteligencia Artificial, encargada de coordinar el uso de esta tecnología entre las autoridades nacionales. Esta oficina contará con el asesoramiento de un panel de científicos y representantes de organizaciones de la sociedad civil.
Se prevé que la ley entre en vigor en 2026, pero su implementación será gradual. La Oficina Europea se establecerá de forma inmediata, la prohibición de los sistemas de IA prohibidos se aplicará en un plazo de seis meses, y los requisitos para los sistemas y modelos de IA generativa entrarán en vigor a los 12 meses.
El reglamento establece multas que oscilan entre los 35 millones de euros o el 7% del volumen de negocio global de las empresas, y los 7,5 millones de euros o el 1,5% del volumen de negocio global, dependiendo de la gravedad de la infracción.
Insights de Evox News: Cómo la Ley de IA de la UE puede impactar tu negocio
La histórica ley de inteligencia artificial de la Unión Europea no solo establece un precedente a nivel mundial, sino que también tendrá implicaciones significativas para las empresas que operan dentro y fuera del territorio europeo. A continuación, analizamos algunos de los posibles impactos:
Ventaja Competitiva para la Innovación Responsable: La ley promueve un enfoque de «IA confiable», lo que podría generar una ventaja competitiva para aquellas empresas que adopten prácticas de desarrollo y uso de IA éticas y transparentes. Los consumidores y clientes podrían mostrar una mayor preferencia por productos y servicios de IA que cumplan con los estándares de la UE.
Revisión de Estrategias de IA: Las empresas deberán revisar sus estrategias de IA para asegurar el cumplimiento de la nueva normativa. Esto implica evaluar el riesgo de sus sistemas de IA, implementar medidas de mitigación de riesgos y garantizar la transparencia en el uso de datos y algoritmos.
Oportunidades en el Desarrollo de Herramientas de Cumplimiento: La ley podría impulsar la demanda de herramientas y servicios que ayuden a las empresas a cumplir con los nuevos requisitos. Esto abre oportunidades para empresas especializadas en auditoría de IA, gestión de riesgos y soluciones de transparencia.
Impacto en la Competencia Global: La ley de la UE podría influir en la regulación de la IA en otras jurisdicciones, creando un estándar global más elevado. Las empresas que operan a nivel internacional deberán considerar cómo adaptarse a este nuevo panorama regulatorio.
* Necesidad de Talento Especializado: Se espera una mayor demanda de profesionales con conocimientos en ética de la IA, derecho tecnológico y gestión de riesgos relacionados con la inteligencia artificial. Las empresas deben estar preparadas para atraer y retener a estos profesionales.
En resumen, la ley de IA de la UE representa un cambio fundamental en el panorama de la inteligencia artificial. Las empresas que se adapten proactivamente a esta nueva realidad estarán mejor posicionadas para aprovechar las oportunidades y mitigar los riesgos asociados con esta tecnología transformadora
