Desarrollan un custodio basado en IA para proteger a usuarios en futuras realidades híbridas
Ante la emergencia de entornos de realidad social mixta, como el metaverso, surgen preocupaciones sobre nuevos riesgos de seguridad, incluyendo conductas perniciosas y tácticas de manipulación. Para afrontar estos desafíos futuros, un grupo de investigadores valencianos está diseñando un guardián personal virtual que empleará técnicas de inteligencia artificial.
Un equipo del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN) de la Universitat Politècnica de València está inmerso en el desarrollo de este protector digital bajo el proyecto denominado guardIA. La iniciativa se adelanta a escenarios previstos para dentro de diez o quince años.
El propósito central de este programa, liderado por el investigador Vicent Botti, es asegurar interacciones sociales más protegidas y avanzadas en los venideros espacios sociales de realidad híbrida, capitalizando las capacidades que ofrece la IA.
Identificación de amenazas y contenidos no fiables
Según fuentes académicas, la creación de este guardián virtual responde a la creciente utilización de plataformas sociales y tecnologías que permitirán a las personas interactuar en ambientes virtuales inmersivos con una profundidad inédita. También busca detectar intenciones o contenidos malintencionados o de baja fiabilidad.
Aunque actualmente ya interactuamos con sistemas de recomendación y publicidad basados en nuestro comportamiento online, se anticipa que los agentes que gestionen las interacciones y los flujos de información en las futuras realidades sociales híbridas dispondrán de mayores capacidades para explotar las vulnerabilidades de los individuos en dichos entornos.
Este custodio digital interactuará con el usuario final para alertarlo y concienciarlo sobre posibles intentos maliciosos y prácticas manipuladoras, con el fin de atenuar sus efectos perjudiciales.
El proyecto guardIA contempla, en su fase inicial, la creación de un modelo teórico y tecnológico que anticipe cómo las redes sociales híbridas transformarán las relaciones sociales y cuáles serán las nuevas formas de interacción, identificando las de mayor riesgo potencial.
Posteriormente, se desarrollará un asistente personalizado de código abierto, fundamentado en IA, que establecerá una interacción sofisticada con el usuario, le sensibilizará y asistirá en el reconocimiento de intentos maliciosos y patrones de manipulación para minimizar su impacto.
Finalmente, se abordará un proceso para la comprensión pública de esta herramienta, que además podría tener aplicaciones en diversos campos.
Amenazas tecnológicas emergentes en el metaverso
Los especialistas advierten que, en la próxima década o década y media, surgirán nuevas herramientas en las redes sociales del futuro, disponibles para quienes busquen manipular a los usuarios con fines diversos (políticos, comerciales, etc.). Estas herramientas no solo se enfocarán en el contenido del mensaje, sino también en su forma de presentación.
Como ejemplo, se mencionan los «bots» potenciados por IA, diseñados con características como edad, género y voz similares a las humanas para provocar emociones específicas, influir en el estado de ánimo y afectar la capacidad de decisión. También se alerta sobre el uso de imágenes de personas de confianza para facilitar el engaño.
Vicent Botti, director de VRAIN e investigador principal de guardIA, señala: “Este proyecto busca contribuir a una interacción social más segura en las redes sociales híbridas y facilitar el proceso de aceptación y adaptación de los usuarios a este nuevo entorno sociotecnológico”.
Añade que «se ha prestado gran atención a las estrategias de diseño y la participación activa de los usuarios en el ecodiseño del mismo, mediante estudios de validación y actividades de prueba específicas para aumentar la confianza hacia este desarrollo”. Botti recalca que esta problemática, «aunque todavía no exista, va a surgir en el futuro más cercano en un plazo de 10 a 15 años”.
El diseño de este guardián virtual considera el avance incipiente de tecnologías como la realidad virtual, aumentada y extendida, que posibilitarán una interacción libre en su interior. Asimismo, se apoya en la tecnología multisensorial, que permite el reconocimiento de las emociones de los usuarios de manera sencilla, accesible y en tiempo real.
Insights de Evox News: Cómo el desarrollo de guardianes virtuales puede impactar tu negocio
La creación de sistemas de protección como el guardián virtual para entornos inmersivos presenta varias implicaciones significativas para las empresas:
Ventaja Competitiva y Confianza del Cliente: En un futuro donde las interacciones en el metaverso y realidades híbridas sean comunes, la seguridad será un diferenciador clave. Las empresas que operen en estas plataformas o desarrollen servicios para ellas y que puedan garantizar un entorno seguro y protegido contra la manipulación, ganarán una ventaja competitiva sustancial al fomentar la confianza del usuario y del cliente. La adopción temprana de estas medidas de seguridad puede ser crucial.
Nuevos Mercados y Oportunidades Económicas: El desarrollo de guardianes virtuales y tecnologías de seguridad asociadas abre un nuevo mercado para soluciones de ciberseguridad específicas para el metaverso. Empresas tecnológicas, consultoras de seguridad y desarrolladores de IA pueden encontrar aquí un nicho de negocio en expansión. Además, la seguridad robusta puede acelerar la adopción del metaverso para el comercio electrónico, el trabajo remoto y el entretenimiento, generando nuevas vías de ingresos.
* Impulso a la Innovación y Ética: La necesidad de combatir amenazas sofisticadas en entornos virtuales impulsará la innovación en inteligencia artificial, análisis de comportamiento, computación afectiva (reconocimiento de emociones) y ciberseguridad. A su vez, plantea importantes cuestiones éticas sobre la privacidad, el monitoreo y el consentimiento del usuario, obligando a las empresas a desarrollar e implementar estas tecnologías de manera responsable y transparente, lo cual puede convertirse en parte de su propuesta de valor
