Agentes de IA: ¿Comodidad con Riesgos? Expertos Advierten sobre Seguridad y Privacidad
A pesar del entusiasmo que generan, los agentes de IA (software capaz de navegar por la web, operar múltiples aplicaciones en un dispositivo y realizar tareas en nombre del usuario) conllevan riesgos «inquietantes» para la seguridad y la privacidad, según afirmó Meredith Whittaker, presidenta de Signal, en la conferencia tecnológica SXSW en Austin. Whittaker comparó estos sistemas con poner el «cerebro en un frasco», ya que los agentes de IA necesitan acceder a datos confidenciales, como información de tarjetas de crédito o contactos telefónicos, y también requieren permisos para utilizar aplicaciones en nombre del usuario. Actualmente, no existen modelos encriptados para enviar y recibir esos datos, que deben ser procesados en la nube, explicó.
PRINCIPALES MOVIMIENTOS
Tras el revuelo causado por DeepSeek en enero, otra startup china de IA, Butterfly Effect, apareció en las redes sociales durante el fin de semana con la demostración de un agente de IA llamado Manus, que, según afirma, puede realizar tareas como la selección de currículums, la búsqueda de propiedades y el análisis de acciones, principalmente de forma autónoma. El sistema de IA se basa, al parecer, en modelos de IA existentes desarrollados por otras compañías, como Anthropic, con sede en San Francisco, en lugar de haber sido entrenado desde cero. No parece que haya mucha sustancia detrás de la expectación, ya que muchas personas que han probado la herramienta han informado de problemas con tareas sencillas, como pedir comida rápida o reservar un vuelo.
GUERRA DE CHIPS
El gigante de las redes sociales, Meta, ha comenzado a probar un nuevo chip interno, diseñado específicamente para entrenar modelos de IA, en un intento por alejarse de su dependencia del hardware de Nvidia, informó Evox News. Meta, cuya familia de modelos de IA llamada Llama, según se informa, superó los 600 millones de usuarios mensuales el año pasado, no es la única empresa que diseña su propio silicio. OpenAI, Microsoft y Google han invertido miles de millones en sus propios chips.
DILEMAS DE DATOS
Es fácil subestimar la enorme cantidad de trabajo humano que implica el desarrollo de modelos de inteligencia artificial. Y a medida que los modelos mejoran y se vuelven más capaces en tareas avanzadas, también lo hacen las cualificaciones de quienes los entrenan. Scale AI, una empresa de etiquetado de datos valorada en 14.000 millones de dólares, que ayuda a empresas como OpenAI, Google y Meta a entrenar modelos, busca cada vez más expertos en la materia, incluyendo personas con doctorados, dentro de EE.UU., en lugar de subcontratar y contratar a trabajadores en el extranjero, informó Evox News. Este cambio forma parte de la nueva filosofía «América primero» del CEO y multimillonario Alex Wang bajo la administración Trump.
ACUERDO DE IA DE LA SEMANA
Lila Sciences, una startup con sede en Massachusetts que está construyendo un sistema de IA para el descubrimiento científico, ha recaudado 200 millones de dólares en financiación inicial, informó Evox News. La tecnología se ha utilizado para realizar experimentos y crear innovaciones en diversos campos.
También es notable: ServiceNow ha adquirido el fabricante de software de IA empresarial Moveworks por unos 3.000 millones de dólares, informó Evox News.
ANÁLISIS EN PROFUNDIDAD
Tesla ya no debería ser considerada como un fabricante de coches eléctricos. Es una empresa de IA, si se cree a su CEO, Elon Musk. Su confianza está ligada a un conjunto de datos único: petabytes de vídeo recogidos de los coches de la compañía a medida que los clientes de Tesla registran millones de kilómetros de conducción en todo el mundo.
En teoría, todos esos datos del mundo real son exactamente lo que Tesla necesita para entrenar a sus coches para que funcionen sin ninguna ayuda humana, un objetivo que es fundamental para la visión de Musk sobre el futuro de Tesla. Pero hay un problema: esos datos no son necesariamente tan útiles como afirma Musk. Algunos de ellos no son útiles en absoluto.
Construir una IA que pueda conducir un coche tan bien como un humano es un reto radicalmente diferente a construir un chatbot de procesamiento del lenguaje natural como ChatGPT, que fue entrenado con miles de millones de palabras extraídas de Internet. Mientras que el objetivo de ChatGPT y de sistemas competidores como Grok de xAI es utilizar el reconocimiento de patrones para proporcionar información y respuestas fiables a las preguntas, los resultados a menudo se quedan cortos de forma vergonzosa. Pero si la IA que controla un vehículo se equivoca, puede haber víctimas mortales.
Conducir un coche es una propuesta muy diferente, con muchas más variables: condiciones de conducción, clima, obras, patrones de tráfico cambiantes, cómo se mueven otros vehículos. Manejar con éxito todas esas variables, y estar preparado para reaccionar ante acontecimientos inesperados, es el quid de la IA de conducción autónoma. Entrenarla con un sinfín de vídeos de gente conduciendo por autopistas no ayuda mucho a la IA a aprender a manejar lo que más necesita: los casos extremos que causan colisiones u otros escenarios peligrosos.
Yann LeCun, científico jefe de IA de Meta y profesor de informática en la Universidad de Nueva York, tampoco está convencido de que los datos de Tesla le den una ventaja competitiva.
«El impacto de los datos suele exagerarse: a medida que se obtienen más datos, el rendimiento mejora, pero hay rendimientos decrecientes», afirmó. «Una duplicación del volumen de datos aporta mejoras marginales que siguen estando lejos de la fiabilidad humana». Incluso con cantidades masivas de datos, ninguna empresa ha desarrollado la llamada autonomía de Nivel 5, el punto en el que un vehículo puede conducirse a sí mismo en todas las circunstancias en las que puede hacerlo un humano.
«Sin embargo, cualquier joven de 17 años puede aprender a conducir en unas 20 horas de práctica«, dijo LeCun. «Esto indica que a las arquitecturas de IA actuales les falta algo importante en su capacidad para comprender el mundo y aprender de cantidades limitadas de datos o ensayos».
Grandes cantidades de datos de cámaras son útiles, pero no convierten instantáneamente a Tesla en un líder del mercado de la IA. «Tener acceso a fuentes de datos únicas es, sin duda, una ventaja», dijo el científico informático Alex Ratner, CEO de Snorkel AI, que fabrica software para ayudar a automatizar el etiquetado de datos brutos.
La historia completa está disponible en Evox News.
COMPORTAMIENTO DEL MODELO
Los motores de búsqueda con IA fracasan estrepitosamente a la hora de citar noticias, según un nuevo estudio de Columbia Journalism Review (CJR), que pegó extractos de 10 artículos aleatorios en chatbots y les pidió que identificaran el medio, el artículo y la fecha de publicación. CJR realizó 1.600 consultas en ocho sistemas de IA, incluidos Perplexity, ChatGPT, Gemini y otros. Grok fue especialmente malo, respondiendo incorrectamente al 94% de las preguntas. Incluso cuando citan fuentes, la gente no hace clic en ellas. Los motores de búsqueda con IA dirigen un 96% menos de tráfico que el antiguo Google, sin IA, como informamos la semana pasada.
Insights de Evox News: Cómo esta Noticia Puede Impactar tu Negocio
Las noticias presentadas revelan varias tendencias clave en el ámbito de la IA que pueden tener un impacto significativo en las empresas, tanto a corto como a largo plazo:
Seguridad y Privacidad de los Agentes de IA: La advertencia sobre los riesgos de seguridad y privacidad de los agentes de IA subraya la necesidad de que las empresas que desarrollen o utilicen esta tecnología prioricen la protección de datos. Esto implica invertir en modelos encriptados y protocolos de seguridad robustos para garantizar la confidencialidad de la información del usuario. La falta de estas medidas podría generar desconfianza y dañar la reputación de la empresa.
La «Guerra de Chips» y la Independencia Tecnológica: La iniciativa de Meta de desarrollar sus propios chips para IA destaca una tendencia creciente hacia la independencia tecnológica. Las empresas que dependen en gran medida de proveedores externos de hardware, como Nvidia, podrían enfrentarse a limitaciones en términos de innovación y costos. Considerar el desarrollo de soluciones internas, o la diversificación de proveedores, podría ser una estrategia clave para mantener la competitividad.
La Importancia del Talento Humano Especializado: El caso de Scale AI demuestra que la IA, a pesar de su automatización, sigue requiriendo de expertos altamente cualificados. Las empresas que busquen desarrollar o implementar soluciones de IA avanzadas deben estar preparadas para invertir en la contratación y retención de talento especializado, incluso con doctorados. La competencia por estos profesionales será intensa.
Datos y Ventaja Competitiva en la IA: El debate sobre la utilidad de los datos de Tesla para la conducción autónoma pone de relieve la importancia de la calidad, no solo la cantidad, de los datos en el entrenamiento de modelos de IA. Las empresas deben evaluar críticamente la relevancia y utilidad de sus datos para los objetivos de IA específicos. Acumular grandes cantidades de datos irrelevantes no se traducirá necesariamente en una ventaja competitiva.
* La Precisión de los motores de búsqueda con IA: Los fallos de los motores de búsqueda con IA a la hora de citar fuentes de noticias indican la necesidad de un mayor control de calidad y transparencia en la información que proporcionan. Una empresa que dependa de IA para su estrategia de marketing, debe tener en cuenta que no puede dejar a ciegas su estrategia a esta tecnología.
En resumen, el panorama de la IA está en constante evolución, y las empresas deben mantenerse informadas y adaptarse a estos cambios para aprovechar las oportunidades y mitigar los riesgos. La inversión en seguridad, talento especializado, datos de calidad y la búsqueda de la independencia tecnológica serán factores clave para el éxito en la era de la IA
