Los motores de búsqueda impulsados por Inteligencia Artificial (IA) prometen transformar la forma en que accedemos a la información.
Sin embargo, una reciente investigación revela deficiencias fundamentales en la manera en que estos sistemas citan las fuentes de noticias.
Un estudio conducido por investigadores del Tow Center for Digital Journalism, en la Columbia Journalism Review, encontró que las herramientas de búsqueda con IA generativa no solo inventan citas, sino que también obstaculizan el tráfico hacia los editores originales.
Esta situación plantea serias implicaciones para el periodismo y la confianza del público en las noticias.
Klaudia Jaźwińska y Aisvarya Chandrasekar, investigadoras del estudio, detallaron sus hallazgos. Para evaluar de manera equitativa a ocho modelos de lenguaje extensos (LLM, por sus siglas en inglés), utilizaron diez extractos de artículos de veinte editores diferentes en cada modelo de búsqueda con IA. Posteriormente, evaluaron manualmente cada uno de los 1600 resultados de las consultas para determinar la precisión con la que cada LLM recuperaba los siguientes datos:
- Nombre correcto del editor del artículo.
- Identificación precisa del artículo del cual se extrajo el fragmento.
- Citación exacta de la URL del artículo.
Basándose en las diversas combinaciones de resultados posibles, cada resultado fue clasificado usando una clave de calificación específica.
Los resultados, organizados por LLM, revelaron una marcada tendencia hacia la inexactitud. Perplexity y Perplexity Pro arrojaron los resultados más precisos, mientras que los modelos Grok y Gemini mostraron dificultades para proporcionar respuestas correctas.
Motores de Búsqueda con IA: Mayor Confianza, Menor Precisión
Uno de los hallazgos más sorprendentes fue la facilidad con la que las herramientas de búsqueda con IA evaluadas generaban resultados falsos, en lugar de admitir que no podían localizar la información correcta.
Como explicaron las investigadoras «Los chatbots, en general, fueron deficientes al negarse a responder preguntas que no podían contestar con precisión, ofreciendo en su lugar respuestas incorrectas o especulativas. Las herramientas de búsqueda generativa a menudo fabricaban enlaces y citaban versiones sindicadas y copiadas de los artículos».
Es evidente cómo estas respuestas generadas por IA pueden engañar a los usuarios y crear una falsa sensación de credibilidad, especialmente cuando la información es completamente inventada.
Resulta aún más impactante que las versiones de pago de varios chatbots de IA, es decir, las versiones premium, tuvieran un rendimiento inferior al de sus contrapartes gratuitas.
«Los chatbots premium proporcionaron respuestas incorrectas con mayor seguridad que sus equivalentes gratuitos», señalaron las investigadoras.
Esto plantea serias dudas sobre la fiabilidad de los motores de búsqueda con IA, especialmente para aquellos usuarios que asumen que pagar por un servicio implica obtener mayor precisión y confiabilidad.
En lo que respecta a la búsqueda impulsada por IA, los resultados del estudio sugieren que no se obtiene lo que se paga.
Búsqueda con IA: Enlaces Inventados y Falta de Transparencia
Además de errar en los datos, las herramientas de búsqueda con IA generativa también presentaron problemas con las citas. El estudio reveló que estos servicios con frecuencia creaban enlaces falsos o citaban copias publicadas de artículos en lugar de enlazar directamente a la fuente original.
Las investigadoras señalaron que esta tendencia tecnológica no solo dificulta la identificación del origen de la información, sino que también disminuye el tráfico hacia los editores originales. A largo plazo, la reducción del tráfico web podría afectar las visitas únicas a la página, las suscripciones, los ingresos por publicidad y la relevancia de la publicación.
El estudio también destacó una preocupante falta de transparencia en todos los motores de búsqueda con IA en relación con el contenido utilizado para generar las respuestas.
«Ninguno de los chatbots fue transparente sobre el contenido al que podían o no podían acceder para responder a una pregunta; todos proyectaron una ilusión de confiabilidad, incluso cuando sus respuestas eran inexactas», escribieron las autoras.
Buscando Respuestas de los Proveedores de Búsqueda con IA
Dada la importancia de estos hallazgos, las investigadoras intentaron contactar a las empresas responsables de las herramientas de búsqueda con IA incluidas en el estudio. Sin embargo, las respuestas fueron irregulares.
«Nos pusimos en contacto con todas las empresas de IA mencionadas en el informe. Solo OpenAI y Microsoft respondieron, y aunque reconocieron nuestras consultas, ninguna abordó los hallazgos o preocupaciones específicas que planteamos».
Estos problemas no son meramente académicos, sino que tienen consecuencias reales para el periodismo y el acceso del público a información confiable. Los resúmenes generados por IA eliminan el contexto esencial y no otorgan el crédito adecuado a los autores y editores, lo que puede afectar directamente a las organizaciones de noticias que dependen del tráfico web para obtener ingresos.
«Las herramientas generativas que reempaquetan el contenido sin enlaces ni crédito interrumpen el tráfico hacia los editores originales, afectando su visibilidad e ingresos», respondieron las investigadoras.
Más allá del impacto financiero, la invención de citas y las atribuciones incorrectas por parte de las herramientas de IA representan una amenaza significativa para la confianza en el contenido escrito. Si los usuarios no pueden verificar las fuentes o si los motores de búsqueda con IA tergiversan la información, la desinformación se vuelve más difícil de combatir.
«Cuando las herramientas de IA atribuyen incorrectamente o inventan citas, socavan la confianza en la tecnología y en el periodismo al que hacen referencia. También contribuyen al riesgo de desinformación porque estas herramientas suenan autorizadas incluso cuando están equivocadas», afirmaron Jaźwińska y Chandrasekar.
Cambios Necesarios para el Éxito de la Búsqueda con IA
El estudio subraya la urgente necesidad de que los desarrolladores de IA mejoren la transparencia, la precisión de las citas y la capacidad de respuesta ante las preocupaciones sobre información errónea. Sin la debida rendición de cuentas, los motores de búsqueda impulsados por IA corren el riesgo de erosionar aún más la confianza en el contenido escrito y el periodismo, al tiempo que facilitan la difusión de información inexacta o engañosa.
Hasta entonces, los usuarios deben abordar los resultados de búsqueda generados por IA con precaución, verificar las fuentes de forma independiente y reconocer que estas herramientas están lejos de ser perfectas. Para que la búsqueda con IA sea una puerta de acceso confiable a la información, primero debe aprender las reglas fundamentales del periodismo: obtener los datos correctos y dar crédito a quien corresponda.
Insights de Evox News: Cómo la Precisión de la IA en las Búsquedas Puede Impactar tu Negocio
Esta noticia sobre las deficiencias en la citación de fuentes por parte de los motores de búsqueda con IA tiene implicaciones significativas para las empresas, especialmente en tres áreas clave:
- Ventaja Competitiva y Reputación Online: Las empresas que dependen del SEO y la visibilidad online podrían verse afectadas negativamente si los motores de búsqueda con IA no dirigen el tráfico a sus sitios web de manera precisa. La invención de enlaces o la citación incorrecta podrían desviar a los usuarios a fuentes incorrectas o a competidores, disminuyendo la visibilidad y las oportunidades de negocio. Además, si la información inexacta generada por la IA se asocia con una empresa, su reputación podría verse dañada.
- Innovación y Desarrollo de Contenido: La falta de transparencia en cómo los motores de búsqueda con IA utilizan el contenido plantea desafíos para la innovación. Las empresas que invierten en la creación de contenido original y de calidad podrían ver su trabajo infravalorado o utilizado sin el debido reconocimiento. Esto podría desincentivar la inversión en contenido de alta calidad y afectar la estrategia de marketing de contenidos.
- Confianza del Cliente y Toma de Decisiones: Si los clientes y socios comerciales utilizan motores de búsqueda con IA para obtener información sobre una empresa y reciben datos incorrectos o enlaces falsos, esto puede afectar la confianza en la empresa y en la toma de decisiones. Por ejemplo, un inversor potencial podría encontrar información fabricada que le lleve a tomar una decisión equivocada.
En resumen, la precisión y la transparencia de los motores de búsqueda con IA son cruciales para mantener la igualdad de condiciones en el entorno digital, proteger la reputación de las empresas y fomentar la innovación en la creación de contenido. Las empresas deben estar atentas a cómo evoluciona esta tecnología y considerar el impacto potencial en sus estrategias de marketing, comunicación y gestión de la reputación
