Por qué los fallos de la IA protagonizarán las noticias en 2025, según este CEO

Por qué los fallos de la IA protagonizarán las noticias en 2025, según este CEO

Evox News
Por
11 min de lectura

Dudas Crecientes en la Industria Tecnológica sobre el Verdadero Potencial de la Inteligencia Artificial

«La mayoría de los investigadores de IA afirman que la industria tecnológica está invirtiendo miles de millones en un callejón sin salida». Este fue el contundente titular de un informe reciente. Dicho reporte, que citaba una encuesta realizada a 475 investigadores de IA, coincide con la creciente inquietud de que gran parte de lo que se ha denominado el «boom de la IA» es una exageración desmedida.

Sam Altman, director ejecutivo de OpenAI, ha sostenido durante mucho tiempo que la simple ampliación de los modelos de lenguaje grandes nos conducirá a la denominada inteligencia artificial general (AGI), una inteligencia de nivel humano donde la IA posea capacidades cognitivas. Sin embargo, otros líderes de la industria, como Yann LeCun, científico jefe de IA en Meta, se mantienen escépticos. «Simplemente no vamos a alcanzar una IA de nivel humano solo escalando los LLMs», comentó LeCun en una entrevista. LeCun también ha argumentado previamente que la IA actual no es más inteligente que un gato.

Gary Marcus, psicólogo estadounidense, científico cognitivo y una voz destacada en la industria de la IA, ha escrito extensamente sobre la falta de una ventaja competitiva real para la mayoría de los modelos de IA —incluidos ChatGPT, Grok, Claude y otros— que han proliferado en el sector.

En una serie de predicciones ampliamente difundida sobre el estado de la IA para finales de 2025, Marcus afirmó que «no veremos inteligencia artificial general este año, a pesar de las afirmaciones de Elon Musk en sentido contrario» y que «las ganancias de los modelos de IA seguirán siendo modestas o inexistentes», aunque señaló que «las empresas fabricantes de chips seguirán teniendo buenos resultados».

A pesar de estos debates, pocos negarían que la IA no ofrece ningún valor. Incluso LeCun y Marcus han reconocido repetidamente los beneficios prácticos de algunos sistemas de IA actuales. No obstante, Jerry Haywood, CEO de Boost.ai, considera que la narrativa de la IA este año estará definida no por avances significativos, sino por fallos operativos.

En una conversación, Haywood advirtió que los fracasos de la IA dominarán los titulares en 2025. Según él, esto se debe a que demasiadas empresas se han precipitado hacia un futuro impulsado por la IA con proveedores que prometen en exceso y cumplen por debajo de las expectativas, y las fisuras están empezando a ser evidentes.

Definiendo el Fracaso en la IA

Cuando la mayoría piensa en errores de la IA, se imagina a los chatbots «alucinando», es decir, generando respuestas incorrectas o engañosas con aparente seguridad. Sin embargo, Haywood percibe un panorama más amplio.

«Existe una diferencia entre implementaciones fallidas y casos de uso que ni siquiera llegan a ponerse en marcha», señaló. «Nos enteramos cuando un agente de IA activo comete un error crítico, pero ¿qué pasa con las miles de empresas que se quedan sin nada después de que los proveedores no logran entregar siquiera una solución funcional?».

Consideremos el caso de 2024 que involucró al asistente virtual de Air Canada, calificado por múltiples comentaristas de la industria como «el chatbot mentiroso de IA». La herramienta prometió incorrectamente un descuento por duelo a un cliente. Cuando el caso llegó a los tribunales, un juez dictaminó que la aerolínea era responsable de lo que el chatbot había afirmado, exponiendo cuán arriesgada puede ser la falta de controles adecuados.

Como Haywood indicó, el daño reputacional es solo una parte del problema. En industrias reguladas, las alucinaciones pueden exponer a las empresas a multas e investigaciones. «Los fallos de la IA en las interacciones con los clientes no solo causan frustración», dijo. «Pueden erosionar instantáneamente años de confianza y lealtad acumuladas».

El Inminente Día del Juicio Final para la IA

Para Haywood, el actual auge de la IA es muy similar a los primeros días de los smartphones, cuando la palabra «inteligente» se aplicaba a cualquier dispositivo con pantalla, independientemente de sus capacidades reales. El término «IA lista para la empresa» parece seguir el mismo camino.

«En 2025, es probable que veamos colapsar a muchas organizaciones», apuntó Haywood. «Aquellas a las que se les vendieron casos de uso de ensueño ahora enfrentan una dura realidad: sus proveedores elegidos luchan por convertir las promesas en rendimiento», añadió.

Un factor importante que impulsará los fracasos de la IA este año, explicó Haywood, son las implementaciones fallidas, o la costosa brecha entre las expectativas y la ejecución. Muchas compañías que invirtieron en IA están descubriendo que sus herramientas requieren una personalización extensa, largos plazos de implementación y aun así no logran ofrecer un retorno de la inversión significativo. El resultado de tales esfuerzos es un presupuesto desperdiciado, equipos frustrados y una creciente presión de las juntas directivas para mostrar resultados. Por eso, según Haywood, seleccionar al proveedor adecuado es crucial, ya que una mala elección puede acarrear graves consecuencias.

Separando la Exageración de la Realidad

Entonces, ¿cómo discernir entre la exageración para obtener valor real de la IA? La respuesta de Haywood es que las empresas deben centrarse en áreas donde la IA pueda generar el mayor impacto, como escalar el soporte, personalizar las interacciones o simplificar las operaciones. «No empieces con la tecnología», dijo. «Empieza con el problema».

La IA tiene aplicaciones infinitas, pero sin un caso de negocio claro, puede convertirse rápidamente en una distracción costosa incluso para las organizaciones más sólidas. En lugar de ello, las empresas deben identificar claramente las oportunidades donde la IA puede marcar la diferencia más significativa. Las conversaciones iniciales con los proveedores son críticas y las empresas deben indagar sobre resultados comprobados en casos de uso similares, el tiempo necesario para generar valor y las experiencias de otros en su industria.

«La IA debe sentirse como una mejora natural de tus operaciones existentes», afirmó. «Cuando la IA se alinea con tus necesidades desde el principio, no se siente forzada; simplemente funciona».

Más Allá del Atractivo

A pesar de todo el entusiasmo que rodea las posibilidades de la IA, los líderes empresariales deben mantener los pies en la tierra. La innovación por sí misma —o bajo la presión de la junta directiva para «hacer algo con IA»— siempre es un camino arriesgado.

Más allá del atractivo de la IA, los líderes empresariales deberían preocuparse más por cómo exactamente puede transformar sus negocios en lugar de una búsqueda inútil del próximo juguete de moda.

Lo que los ejecutivos necesitan saber antes de usar IA es si las herramientas que desean implementar realmente se alinean con sus objetivos organizacionales. También necesitan realizar una diligencia debida exhaustiva en la selección de proveedores y mantener un enfoque claro en las aplicaciones prácticas de las herramientas en las que invierten dinero.

A medida que avanzamos en 2025, es posible que los titulares estén dominados por historias de fracasos de la IA. Pero estas narrativas pueden servir como lecciones valiosas, guiando a las empresas hacia estrategias de IA más reflexivas y efectivas que prioricen la sustancia sobre la exageración.

Insights de Evox News: Cómo [el escepticismo y posibles fracasos de la IA] puede impactar tu negocio

La creciente cautela en torno a la inteligencia artificial y la predicción de un aumento en los fracasos de implementación en 2025 tienen implicaciones directas para las empresas:

Impacto Económico: Las empresas corren el riesgo de incurrir en pérdidas financieras significativas debido a inversiones en proyectos de IA que no cumplen las promesas o que fallan por completo. Los costos no solo incluyen la inversión inicial en tecnología y proveedores, sino también el tiempo y los recursos internos dedicados, así como posibles multas regulatorias o costos legales derivados de errores de la IA (como en el caso de Air Canada). Una estrategia de IA mal concebida puede drenar presupuestos sin generar el ROI esperado.
Ventaja Competitiva: La adopción apresurada de soluciones de IA «de moda» sin una estrategia clara puede resultar contraproducente. Las empresas que realizan una evaluación rigurosa, seleccionan proveedores basándose en resultados demostrables y se enfocan en resolver problemas de negocio específicos con IA, tienen más probabilidades de obtener una ventaja competitiva sostenible. Por el contrario, las fallas públicas de la IA pueden dañar gravemente la reputación de una marca y erosionar la confianza del cliente, cediendo terreno a competidores más cautelosos o efectivos.
* Innovación Estratégica: El escepticismo actual puede fomentar un enfoque más pragmático hacia la innovación en IA. En lugar de perseguir la esquiva Inteligencia Artificial General o implementar la última tecnología sin un propósito claro, las empresas pueden centrarse en aplicaciones de IA más específicas y alcanzables que ofrezcan valor tangible. Los «fracasos» pueden servir como catalizador para exigir mayor transparencia, fiabilidad y explicabilidad a los proveedores de IA, impulsando el desarrollo de soluciones más robustas y verdaderamente alineadas con las necesidades empresariales a largo plazo. Este enfoque medido puede conducir a una innovación más significativa y sostenible

Compartir este artículo