La IA de Google “alucina” y confunde el avión del accidente de Air India

El siniestro, ocurrido el pasado jueves en la India, implicó a un Boeing 787-8 Dreamliner, según confirmaron las autoridades. Sin embargo, al teclear en el buscador términos relacionados con el suceso, algunos usuarios se toparon con respuestas en las que la inteligencia artificial (IA) aseguraba, con aplomo, que el aparato siniestrado era un Airbus A330. Y en otras ocasiones, el resumen generado mezclaba ambos modelos como si de un híbrido imposible se tratara.

Este tipo de fallos en los sistemas de IA generativa se conocen como “alucinaciones”, término que hace referencia a la creación de información errónea presentada con apariencia de certeza.

La causa de esta confusión, explican expertos citados por ArsTechnica, podría estar en que muchos de los artículos que publicaba la prensa sobre el accidente mencionaban a Airbus como competidor de Boeing, lo que habría desorientado al algoritmo al intentar condensar el contenido.

En esta búsqueda, la IA de Google dice que el accidente involucró un Airbus A330 en lugar de un Boeing 787. Fuente: /u/stuckintrraffic via Arstechnica

El accidente del vuelo AI171 y el error de la IA de Google son un recordatorio de que, incluso en la era de la inteligencia artificial, la verificación humana sigue siendo necesaria para generar contenido veraz y de calidad

Google, por su parte, ha reaccionado retirando manualmente la respuesta errónea y recordando que sus herramientas de IA llevan un aviso al final de cada resumen: “Las respuestas de IA pueden contener errores”. Un descargo de responsabilidad que, no obstante, pasa inadvertido para muchos usuarios, confiados en la fiabilidad de un sistema que se presenta con tono seguro y contundente.

La compañía de Mountain View asegura que utiliza casos como este para mejorar sus algoritmos y que el nivel de precisión de AI Overviews es comparable al de otras funciones como los fragmentos destacados.

Google ha informado a ArsTechnica que ha eliminado manualmente esta respuesta de AI Overviews: "Al igual que con todas las funciones de Búsqueda, implementamos mejoras rigurosas y usamos ejemplos como este para actualizar nuestros sistemas. Esta respuesta ya no se muestra. Mantenemos un alto nivel de calidad en todas las funciones de Búsqueda, y la precisión de las Vistas Generales de IA es comparable a la de otras funciones como los Fragmentos Destacados."

Sin embargo, el incidente reabre el debate sobre hasta qué punto conviene delegar la búsqueda de datos sensibles a sistemas automáticos que, aunque avanzados, no están libres de fallos.

Mientras tanto, Airbus -que no tuvo nada que ver con el accidente- podría ver con preocupación cómo su nombre se vincula involuntariamente a una tragedia.

Por su parte, Boeing, que atraviesa una crisis reputacional por otros incidentes recientes, se enfrenta a una situación inesperada: una confusión que, al menos por un momento, desvió la atención.

¿Sabes que puedes estar al día con el mejor contenido de HOSTELTUR directamente en tu teléfono?

Síguenos en nuestros canales de WhatsApp y Telegram, donde enviamos cada día una selección de nuestras mejores historias y de las noticias de última hora.