‘Alucinaciones’ de la inteligencia artificial (IA): qué es y por qué genera desconfianza en esta tecnología
No se trata solo de fallas de raciocinio o fallas de lógica. Las alucinaciones de la IA pueden tener graves efectos en los usuarios. Experto estima que hay una tasa de 3% hasta un 27%
Alucinación. Dice el Diccionario de la Lengua Española que se trata de una sensación subjetiva que no va precedida de impresión en los sentidos, o la acción de alucinar. Pero pronto se tendría que agregar otro significado pues la inteligencia artificial (IA) también puede presentarlas, y de una manera peculiar.
Aunque la IA ya estaba en nuestras vidas desde hace muchos años, la aparición del ChatGPT en el 2022 puso en la mirada de todos a la IA generativa, una forma de inteligencia artificial que podría competir con los humanos.
Pero esta IA también tiene sus errores, y en la terminología especializada se le ha llamado alucinación de la inteligencia artificial.
“Una alucinación es el nombre técnico para algo que simplemente es que la inteligencia artificial contesta mal, es un error, es una insatisfacción por parte del usuario a la respuesta que recibe”, dice Julian Colombo, CEO de la empresa N5, dedicada a la transformación digital.
Entre los modelos de IA destaca ChatGPT. Es un modelo de lenguaje desarrollado por OpenAI, con la capacidad de aprendizaje para dar respuestas detalladas y bien articuladas. Pero no es el único que existe. Las grandes marcas tecnológicas ya tienen su propio asistente: Google cuenta con Gemini, Meta tiene a MetaAI, Microsoft trabaja con Copilot o Anthropic con Claude.
Algunos modelos de IA utilizan información de fuente abierta que proviene de Internet. Sin embargo, estos pueden tener mayor cantidad de alucinaciones. (Foto: freepik.es)
Todos estos modelos, y muchos más, pueden entablar diálogos, resolver preguntas, generar imágenes, audios o videos, todo cuanto se le pueda ocurrir a un usuario. Evidentemente, el funcionamiento de estos aplicativos demanda el manejo de gran cantidad de información que puede provenir de Internet o no.
Pero no hay sistema que no tenga fallas. Hoy en día los chatbots tienen una tasa de alucinaciones entre un 3% hasta un 27%, indica Colombo. Esto se complica a medida que son más las personas que usan estos sistemas de IA, o son instituciones las que recurren a ella, provocando serios efectos en los usuarios. Recordemos que ahora las organizaciones como bancos, clínicas o universidades que cuentan con chatbots para la atención al público.
“Hay muchas razones por las que se afecta, y como hay muchas es improbable que desaparezcan porque no es una sola causa”, indica el analista. Las alucinaciones se pueden deber a fallos en el hardware, en algunas fases de comunicaciones, fallos en los datos de origen, etc. y “todo aquello quita credibilidad a la inteligencia artificial”.
¿Reducir las alucinaciones?
Las alucinaciones se hacen más evidentes cuando los chatbots tienen fallas de raciocinio o fallas de lógica, como si se le preguntara por el resultado de dos más dos y responda tres, o diga que el río Amazonas es un río de Europa o que Lionel Messi juega por la selección peruana. Aunque los ejemplos son solo representaciones, en la vida real esto puede ser mucho más complicado.
La inteligencia artificial generativa se ha convertido en una herramienta muy usada por personas e instituciones. (Foto: freepik.es)
“Hoy la inteligencia artificial para muchas personas es como un entretenimiento, es como un juego, pero uno no puede contestar cuestiones médicas sobre algo que es un juego, hay que tener un nivel de precisión y de diseño de la arquitectura [de la IA]”, indica Colombo. Es importante reconocer que hay sistemas abiertos, que trabajan usando información de Internet, y sistemas cerrados que cuentan con información propia.
En este último espacio es que N5 plantea el uso de la lógica de redundancia distribuida que permite que se autorregulen las alucinaciones, reduciendo a un 1% las alucinaciones con su Fin Skys (Financial Self-Contained Artificial Intelligence), un paquete de tres herramientas de IA: AIfred, Pep y Singular.
La propuesta se caracteriza por no hablar con Internet. Es decir solo cuenta con datos aprobados y, si un dato está viejo, lo descarta, usa datos curados en un ambiente cerrado. “Eso se llama autocontenido”, indica Colombo. Lo segundo es que es más específica y profunda. “En vez de ir a buscar millones de cosas, mira un set más limitado y eso también la hace más efectiva y, finalmente, nosotros tenemos un modelo de orquestación de muchas inteligencias artificiales al mismo tiempo”, indicó a este Diario.
Esto funciona en el sector financiero, que es donde N5 se desempeña. Además, evita que se filtre información personal dando mayor seguridad. ¿Puede aplicarse en otros sectores como educación, medicina, y demás espacios de interés público?
“Todo va a depender de la finalidad. Si yo hago una inteligencia artificial y quiero poder preguntar cualquier cosa, tiene que estar abierto porque Internet tiene los datos; pero si yo le quiero preguntar sobre la historia de un paciente, tiene que estar cerrado para no confundirse y para ser siempre preciso. Hay infinitamente menos alucinaciones y va a buscar a un único lugar”, explicó Colombo.
Sigue siendo un reto convivir con la inteligencia artificial, con sus errores y también con sus aciertos. Una tecnología que llegó para quedarse.
