Alertan de una burbuja en la inteligencia artificial aplicada al turismo

La advertencia procede de Luis Muñoz González, profesor del Imperial College en Londres y especializado en seguridad de sistemas big data, quien participó la semana pasada en el Foro Internacional de Turismo de Maspalomas, Gran Canaria.

Y es que para comenzar, según indicó este experto, "es más fácil engañar a la máquina que engañar al ser humano".

En este sentido, Muñoz recordó las brechas abundantes en el terreno de la ciberseguridad y "la facilidad con que los sistemas informáticos y de inteligencia artificial pueden verse comprometidos hoy en día, con ataques cada vez más sofisticados".

Compañías como Microsoft o Amazon se han visto envueltas en polémicos proyectos de inteligencia artificial

De hecho, indicó, ya estamos viendo programas de inteligencia artificial diseñados para engañar a otros programas de inteligencia artificial y hacerse así con el control de ordenadores, chatbots, etc.

Microsoft, por ejemplo, desarrolló en 2016 un chatbot para interactuar con la gente a través de Twitter.

Ese alter ego virtual de la compañía fue diseñado para interactuar con las personas con un tono simpático, pero horas después de su estreno en Estados Unidos, estaba proponiendo construir un muro en la frontera y que México pagara por él, lanzaba mensajes de odio contra las feministas y sostenía que Hitler tenía razón. "Sufrió lo que llamamos un ataque por envenenamiento". Es decir, el chatbot fue atacado por un código malicioso.

Sesgos

Otro factor a tener en cuenta es que "los sistemas de inteligencia artificial reflejan los sesgos que tenemos los humanos, a través de los datos que le proporcionamos, y esos sesgos incluso son amplificados".

Eso le ocurrió por ejemplo a Amazon, cuando desarrolló un programa de inteligencia artificial para seleccionar curriculums y resultó que dicho sistema sesgaba por sexo, dando preminencia a los hombres.

Tras exponer estos casos reales, Luis Muñoz González planteó la siguiente pregunta: "¿Realmente podemos confiar en los sistemas de inteligencia artificial?"

¿Es un sistema fiable?

Y es que para los profanos en la materia, la inteligencia artificial se asemeja a "una caja negra en la que metes datos y mágicamente resuelve determinadas tareas… ¿Pero cómo podemos evaluar su fiabilidad?".

En este sentido, recomendó extremar la ciberseguridad o prestar mucha atención a cómo sesgamos los datos a la hora de desarrollar sistemas de inteligencia artificial.

Además, remarcó este experto, "ahora hay una cierta burbuja alrededor de la inteligencia artificial, que explotará cuando la realidad no cumpla con las expectativas".

Es más, los problemas asociados a los ciberataques o al sesgo de los datos podrían propiciar ese pinchazo de la burbuja, dijo.

Consejos

A pesar de todo, indicó, "vamos a seguir viendo el avance de sistemas de inteligencia artificial para automatizar tareas".

Por todo ello, este experto recomendó a las empresas turísticas interesadas en desarrollar la inteligencia artificial que sean "cautas, no agresivas" en sus planteamientos y dispongan de una "supervisión humana para controlar cómo está funcionando".