El Fraile Experto en IA, Paolo Benanti, Insta a Establecer un Marco Ético Urgente para la Inteligencia Artificial
Roma (Evox News) – Paolo Benanti, fraile franciscano y reconocido experto en algoritmos y tecnologías, además de consultor de la ONU en materia de Inteligencia Artificial (IA), advierte sobre la necesidad apremiante de establecer un «guardarraíl ético» para esta tecnología en expansión. En una entrevista exclusiva con Evox News, Benanti enfatiza que no se debe ni idealizar ni temer a la IA, sino comprenderla como una herramienta poderosa que requiere una regulación adecuada.
«Estamos llegando tarde y quizás siendo algo ineficientes. Si estos instrumentos no cuentan con sólidas barreras éticas, será complicado contenerlos posteriormente con un código ético externo», pronostica el experto.
Paolo Benanti (Roma, 1973) combina su vida monástica en un monasterio ubicado en los Foros Imperiales de Roma con una profunda inmersión en el mundo de la tecnología. Su hábito franciscano y su mochila de trabajo reflejan esta dualidad.
Un Experto de Renombre
Benanti es un especialista en ética de la tecnología, licenciado en Teología Moral por la Pontificia Universidad Gregoriana. Su tesis doctoral, «The Cyborg: Cuerpo y corporeidad en la era del poshumano» (2008), ya exploraba las intersecciones entre la humanidad y la tecnología.
Su conocimiento en la materia lo llevó a ser nombrado, en octubre de 2023, como uno de los 38 expertos consultores de Naciones Unidas sobre Inteligencia Artificial. Poco después, el gobierno italiano de Giorgia Meloni lo designó presidente de la Comisión sobre IA, un tema que ocupará un lugar central en la próxima cumbre de líderes del G7, presidida este año por Italia.
«En la orden franciscana hemos tenido grandes científicos, como Roger Bacon. Desde la perspectiva de la fe, la razón es un regalo divino, por lo que todo lo que se guía por la razón no es contrario a Dios», explica Benanti, conciliando su doble vocación.
El fraile relata que, aunque inicialmente estudió Ingeniería, optó por la vida monástica «a finales del siglo pasado». Sin embargo, pronto descubrió que ambos mundos no eran mutuamente excluyentes.
El Parlamento Europeo da un paso crucial hacia la primera ley de inteligencia artificial a nivel mundial
«Basta con recordar al hermano Ramón Llull, autor del ‘Ars Magna’, texto que inspiró la Lógica de Leibniz, fundamento de la computación. No soy el primero en la familia», argumenta, mostrando un reloj inteligente que asoma por su manga.
La sociedad actual se encuentra en un momento de transición, adaptándose a la convivencia con la IA. Esta tecnología ofrece avances notables, pero también genera interrogantes y desinformación.
La Urgencia de un «Guardarraíl Ético»
Ante este panorama, Benanti considera fundamental la creación de un «guardarraíl ético» que oriente el desarrollo de la IA y evite su uso perjudicial para la humanidad.
Sin embargo, surge la pregunta de cómo lograr un acuerdo global en el contexto geopolítico actual. Para abordar este desafío, el experto distingue entre valores, normas y principios.
Los valores, explica, varían según las culturas y, por lo tanto, no pueden ser la base de una regulación global de la IA. Las normas, por su parte, sirven para proteger los valores. Los principios, en cambio, ofrecen una vía «más viable para alcanzar un consenso global».
«Imaginemos un vehículo sin control: si gira a la izquierda, atropella a una persona; si lo hace a la derecha, a dos. En ambos escenarios, se valora la vida, pero el ‘principio’ de minimizar los daños ofrece una guía. Los principios éticos son universales», argumenta.
Principios como la transparencia, la fiabilidad y la protección de los más vulnerables deberían guiar el avance de la IA, según el experto.
Benanti enfatiza que la IA no tiene una predisposición inherente al mal. La humanidad siempre ha enfrentado la disyuntiva de utilizar las herramientas para el bien o para el mal, desde los tiempos en que se usaban garrotes para abrir nueces o para otros fines. La situación actual no es diferente.
«El problema no reside en la tecnología, sino en nuestra conciencia», afirma. Por ello, considera que la sociedad se adaptará a la IA, como lo hizo con la bicicleta, y recomienda «no caer en una interpretación sesgada hacia la búsqueda del mal», evitando el temor infundado.
«Debemos analizar todo el potencial positivo que ofrece, no solo enfocarnos en sus posibles errores. No debemos centrarnos en si puede equivocarse en el ámbito médico, sino en cómo puede contribuir a que cada médico sea el mejor en su campo», insta.
Sin embargo, advierte que tampoco se debe subestimar «el misterio del mal», la tentación de utilizar la IA con fines deshonestos, ya sean políticos o económicos.
El fraile, usuario activo de redes sociales, es consciente de que las personas recurren a los algoritmos incluso para buscar pareja y esperan las notificaciones en sus dispositivos como si fueran «muestras de afecto». Por ello, advierte contra la «divinización» de estas herramientas.
¿Podría la tecnología llegar a eclipsar lo divino? Benanti cita un relato de Arthur C. Clarke en el que una máquina, ante la eterna pregunta sobre la existencia de Dios, responde: «Ahora sí».
«La cuestión no es si la IA puede favorecer o perjudicar la búsqueda de Dios, sino si proyectaremos en ella un poder que la convierta en un ídolo. Cada vez que hemos divinizado una herramienta, hemos generado las mayores catástrofes de la historia», advierte.
Insights de Evox News: Cómo la Regulación de la IA Puede Impactar tu Negocio
La reflexión de Paolo Benanti sobre la necesidad de un marco ético para la Inteligencia Artificial tiene implicaciones profundas para el mundo empresarial. A continuación, se analizan algunos puntos clave:
Ventaja Competitiva y Reputación: Las empresas que adopten principios éticos en el desarrollo y uso de la IA no solo evitarán riesgos legales y reputacionales, sino que también podrán diferenciarse de la competencia. La transparencia, la fiabilidad y la responsabilidad en el uso de la IA pueden convertirse en un factor clave para atraer y fidelizar clientes, especialmente en un contexto de creciente preocupación por la privacidad y el impacto social de la tecnología.
Innovación Responsable: La regulación ética no debe verse como un obstáculo, sino como un catalizador para la innovación responsable. Al establecer límites claros y promover la transparencia, se fomenta un entorno de confianza que permite a las empresas explorar nuevas aplicaciones de la IA sin temor a consecuencias negativas.
Atracción de Talento: Las nuevas generaciones de profesionales valoran cada vez más el propósito y la ética en el trabajo. Las empresas que demuestren un compromiso genuino con el uso responsable de la IA tendrán una ventaja significativa a la hora de atraer y retener talento cualificado.
Adaptación a un Entorno Regulatorio Cambiante: Es evidente que nos dirigimos a un entorno con una regulación de la IA más estricta. Las empresas que se anticipen y se adapten proactivamente a estos cambios estarán mejor preparadas para el futuro y evitarán posibles sanciones o disrupciones en sus operaciones.
* Impacto Económico a Largo Plazo: A largo plazo, la adopción de prácticas éticas en IA puede generar un impacto económico positivo. Al evitar riesgos, mejorar la reputación y fomentar la innovación responsable, las empresas pueden construir modelos de negocio más sostenibles y resilientes
