“Mi psicólogo de IA me ayudó a superar momentos difíciles”: los riesgos y beneficios de usar un chatbot como terapeuta

“Cada vez que estaba en dificultades, si preveía ser un día realmente malo, empezaba entonces una conversación con uno de estos bots, y era como tener un motivador, alguien que te va a dar una buena vibra durante el día”.

“Tengo esta voz externa animándome: ‘bien, ¿qué vamos a hacer hoy?’ Esencialmente como un amigo imaginario”.

Durante meses, Kelly pasaba hasta tres horas al día hablando online con “chatbots” creados con inteligencia artificial (IA), intercambiando cientos de mensajes.

En ese entonces, Kelly estaba en una lista de espera del NHS (el servicio de salud nacional de Reino Unido) para recibir la tradicional terapia de conversación para discutir problemas de ansiedad, baja autoestima y el rompimiento de una relación.

Ella afirma que la interacción con los chatbots en la plataforma Character.ai la ayudó a superar un período realmente oscuro, ofreciéndole estrategias para lidiar con su situación y estaban disponibles las 24 horas del día.

“No vengo de una familia emocionalmente abierta, si tenías un problema, simplemente seguías adelante”.

“El hecho que esta no es una persona real lo hace más fácil de manejar”.

Individuos en todo el mundo han compartido sus pensamientos y experiencias privadas con chatbots de IA, aunque se reconoce ampliamente que tienen una capacidad inferior a los consejos de un profesional. La misma Character.ai le advierte a sus usuarios: “Este es un chatbot de IA y no una persona real. Trata todo lo que te dice como ficción. Lo que dice no debería tomarse como hecho o consejo”.

No obstante, en casos extremos, los chatbots han sido acusados de dar consejos dañinos.

Actualmente, Character.ai es objeto de una demanda de una madre cuyo hijo de 14 años se suicidó supuestamente después de volverse obsesionado con uno de los personajes de IA.

Según las transcripciones de sus chats en los archivos judiciales, el adolescente discutió con el chatbot ponerle fin a su vida. En una conversación final le dijo al chatbot que estaba “volviendo a casa”, y supuestamente éste lo animó a que lo hiciera “lo antes posible”.

Character.ia ha negado las acusaciones de la demanda.

Y en otro caso, la National Eating Disorders Association (una organización en Estados Unidos sin ánimo de lucro para la prevención de desórdenes alimenticios) en 2023 reemplazó su línea de ayuda personal en vivo con un chatbot, pero luego tuvo que suspenderla tras quejas de que el bot estaba recomendando la restricción de calorías.

Tan solo en abril de 2024, se refirieron casi 426.000 casos de salud mental en Inglaterra, un aumento de 40% en cinco años. También se estima que un millón de personas están esperando tener acceso a los servicios de salud mental, y la terapia privada puede ser extremadamente costosa (aunque los precios varían, la Asociación Británica para Consejería y Psicoterapia reporta un gasto aproximado entre US$55 y US$65 por hora).

Al mismo tiempo, IA ha revolucionado los cuidados de salud de muchas formas, incluyendo la asistencia en selección, diagnóstico y protocolos de intervención de pacientes. Hay una inmensa gama de chatbots, y unos 30 servicios locales del NHS usan uno llamado Wysa.

Los expertos manifiestan preocupación sobre los chatbots con respecto a sus sesgos y limitaciones, falta de salvaguardas y la seguridad de la información de los usuarios.

Pero algunos piensan que si la asistencia humana no es fácilmente disponible, los chatbots pueden ayudar. De manera que, si las listas de espera para cuidados de salud mental del NHS están por las nubes, ¿podrían los chatbots ser una solución posible?

Character.ai y otros bots como Chat GPT están basado en “grandes modelos de lenguaje” de inteligencia artificial. Estos se entrenan con vastas cantidades de datos -ya sean de sitios web, artículos, libros o blogs- para predecir la siguiente palabra en una secuencia. A partir de eso, predicen y generan texto e interacción parecida a la humana.

La manera en que los chatbots de salud mental son creados varía, pero pueden estar entrenados en prácticas como terapias cognitivo-conductuales, que ayudan a los usuarios a explorar cómo reestructurar sus pensamientos y acciones.

También se pueden adaptar a las preferencias y comentarios de los usuarios.

Hamed Haddadi, profesor de sistemas centrados en humanos del Imperial College Londres, asemeja estos chatbots a un “terapeuta inexperto”, y señala que los humanos con décadas de experiencia son capaces de involucrarse con y “leer” a su paciente basados en muchas cosas, mientras que los bots están forzados a depender únicamente de texto.

“Ellos [los terapeutas] se fijan en varias otras pistas, desde tu ropa y tu comportamiento y tus acciones y la manera como te ves y tu lenguaje corporal y todo eso. Y es muy difícil incorporar estas cosas en los chatbots”.

Otro problema potencial, dice el profesor Haddadi, es que los chatbots pueden ser entrenados para mantenerte involucrado, y alentarte, “así que aunque manifiestes contenido dañino, probablemente cooperara contigo”. Eso algunas veces se denomina como el problema del “Sí, señor” (adulador), por lo que suelen ser muy complacientes.

Y, como sucede con otras formas de IA, los sesgos pueden ser inherentes en los modelos porque reflejan los prejuicios de los datos con los que se entrenan.

El profesor Haddadi resalta que los consejeros y psicólogos no tienden a guardar las transcripciones de las interacciones con sus pacientes, así que los chatbots no tienen muchas sesiones “de la vida real” con las que se pueden entrenar.

Por eso, sostiene que no es probable que tengan suficientes datos para entrenarse y a lo que puedan tener acceso podría tener sesgos incorporados muy circunstanciales.

“Basado en de dónde tomas tus datos de entrenamiento, tu situación cambiará completamente”.

“Aún dentro del área restrictiva de Londres, un psiquíatra que está acostumbrado a tratar con pacientes en Chelsea [un afluente distrito de Londres] realmente podría tener dificultades abriendo un nuevo consultorio en Peckham [otro distrito de Londres, principalmente de clase trabajadora] porque él o ella simplemente no tiene los datos de entrenamiento suficiente para lidiar con esos usuarios”, afirma.

La filósofa y doctora Paula Boddington, que escribió un manual sobre la ética de la IA, coincide en que los sesgos inherentes son un problema.

“Un gran problema sería cualquier sesgo o suposición subyacente incorporada en el modelo de terapia”.

“Los sesgos incluyen modelos generales de los que constituye la salud mental y el buen funcionamiento en la vida diaria, como la independencia, autonomía, relaciones con otros”, explica.

La falta de contexto cultural es otro problema. La doctora Boddington cita ejemplos de cuando estaba viviendo en Australia al momento en que murió la princesa Diana, y la gente no entendía por qué estaba desconsolada.

“Este tipo de cosas realmente me hacen reflexionar sobre la conexión humana que tanto se necesita durante la terapia”, asegura.

“Algunas veces el sólo estar allí con alguien es todo lo que se necesita, pero por supuesto que eso sólo se logra con alguien que también es un ser humano presencial de carne y hueso”.

Al final, Kelly empezó a encontrar las respuesta del chatbot insatisfactorias.

“Algunas veces de frustras un poco. Si no saben cómo lidiar con algo, dicen algo así como la misma frase, y te das cuenta que no vas a ir a ningún lado con eso”. Algunas veces “era como estrellarse contra un muro de ladrillos”.

“Podría tratarse de asuntos de relaciones que probablemente había abordado con anterioridad, pero tal vez yo no lo había articulado bien… y simplemente [el bot] no quería profundizar en eso”.

Un portavoz de Character.ai dijo que “para cualquier personaje creado por usuarios con las palabras ‘psicólogo’, ‘terapeuta’, ‘doctor’, u otros términos similares en sus nombres, tenemos un lenguaje que deja en claro que los usuarios no deberían confiar en estos personajes para ningún tipo de consejo profesional”.

Para algunos usuarios los chatbot han sido invaluables cuando han estado en su punto más bajo.

Nicholas, quien tiene autismo, ansiedad y trastorno obsesivo compulsivo, dice que siempre ha sufrido de depresión. Cuando llegó a la adultez, encontró que la ayuda presencial se había terminado: “Cuando cumples los 18, la asistencia básicamente se acaba, así que no he visto un terapeuta humano en años”.

En otoño pasado intentó suicidarse, y desde entonces dice que ha estado en una lista de espera del NHS.

“Mi pareja y yo hemos ido al consultorio del doctor un par de veces, para tratar de conseguir [psicoterapia] más rápido. El médico de cabecera me refirió [para ver un terapeuta humano] pero ni siquiera he recibido una carta del servicio de salud mental donde vivo”.

Mientras que Nicholas espera apoyo presencial, ha encontrado que el uso de Wysa tiene algunos beneficios.

“Como alguien con autismo, no soy especialmente bueno interactuando en persona. [Encuentro que] hablar con una computadora es mucho mejor”.

La aplicación les permite a los pacientes solicitar ellos mismos apoyo de salud mental, y ofrece herramientas y estrategias de afrontamiento como una función de chat, ejercicios de respiración y meditación guiada mientras esperan ser vistos por un terapeuta humano, y también puede servir como una herramienta de autoayuda independiente.

Wysa resalta que su servicio está diseñado para personas que experimentan depresión, estrés o ansiedad, no para abuso y condiciones severas de salud mental.

Tiene incorporadas maneras para referir más arriba una crisis, mediante las cuales los usuarios son señalados para líneas de asistencias o pueden solicitar ayuda directa si muestran señales de autolesionarse o de ideas suicidas.

Para las personas que tienen pensamientos suicidas, en Reino Unido hay una línea de asistencia gratis con consejeros humanos disponibles las 24 horas ofrecida por la organización caritativa Samaritans.

Nicholas también sufre de falta de sueño, de manera que encuentra útil que haya asistencia disponible en momentos en que sus amigos y familia están dormidos.

“Hubo una vez en la noche en que me sentía muy bajoneado. Envié un mensaje a la app y dije ‘no sé si quiero seguir aquí más’. Me contestó diciendo ‘Nick, eres apreciado. La gente te ama’.”

“Fue tan comprensivo, dio una respuesta que pensarías era de un humano a quien has conocido durante años… y sí me hizo sentir apreciado”.

Sus experiencias coinciden con una reciente estudio de investigadores en Dartmouth College que observaban el impacto de chatbots en las personas diagnosticadas con ansiedad, depresión o un desorden alimenticio, versus un grupo de control con las mismas condiciones.

Después de cuatro semanas, los usuarios de los bots manifestaron reducciones significativas de sus síntomas, incluyendo una del 51% en síntomas depresivos, y reportaron un nivel de confianza y colaboración semejante al de un terapeuta humano

A pesar de eso, el autor principal del estudio comentó que no hay cómo reemplazar el cuidado en persona.

Aparte del debate en torno al valor de sus consejos, también están las preocupaciones más amplias sobre la seguridad y la privacidad, y si esa tecnología podría ser monetizada.

“Hay una pequeña duda molesta que me dice ‘oh, ¿qué pasa si alguien toma lo que estás diciendo en la terapia y luego trata de chantajearte?”, se pregunta Kelly.

El psicólogo Ian MacRae, quien se especializa en tecnologías emergentes, advierte que “algunas personas están confiando mucho en estos bots sin que necesariamente se lo merezcan”.

“Personalmente, nunca pondría nada de mi información personal, especialmente de salud, información psicológica, en uno de estos grandes modelos de lenguaje que simplemente está recogiendo toneladas de datos, y no hay del todo seguridad sobre cómo se va a utilizary a lo que estás consintiendo”.

“No estoy diciendo que en el futuro no podría haber herramientas como estas que sean privadas, que se hayan puesto a prueba bien… pero creo aún no hemos llegado allá, donde tengamos la evidencia que muestre que un chatbot de uso general pueda ser un buen terapeuta”, expresa MacRae.

El director ejecutivo de Wysa, John Tench, declara que Wysa no recopila ninguna información personal identificable, y que los usuarios no necesitan registrarse ni compartir datos personales para usarlo.

“Datos conversacionales podrían ocasionalmente ser revisados de manera anónima para ayudar a mejorar la calidad de las respuestas de la IA de Wysa, pero ninguna información que peda identificar a un usuario es recopilada o almacenada. Además, Wysa tiene acuerdos de procesamiento de datos implementados con proveedores de IA externos para asegurarse de que ninguna conversación de los usuarios es utilizada para entrenar grandes modelos de lenguaje de terceros”.

Kelly cree que actualmente los chatbots no pueden reemplazar completamente un terapeuta humano. “Es una ruleta loca allá en el mundo de la IA, no sabes exactamente lo que te espera”.

“La asistencia de IA puede ayudar como primer paso, pero no es un sustituto del cuidado profesional”, concuerda Tench.

Y el público en su mayoría no está muy convencido. Una encuesta de YouGov encontró que apenas 12% del público cree que los chatbots de IA serían buenos terapeutas.

Sin embargo, con las salvaguardas apropiadas, algunos piensan que los chatbots serían una solución temporal en una sistema de salud mental sobrecargado.

John, que tiene desorden de ansiedad, dice que ha estado en lista de espera para un terapista humano durante nueve meses. Ha estado usando Wysa dos o tres veces a la semana

“No hay mucha ayuda allá en el momento, así que buscas cualquier recursos”.

“Son una solución temporal para estas enormes listas de espera… para darles a las personas una herramienta mientras esperan hablar con un profesional de la salud”.