Chatbots: ¿Cómo funcionan estos ‘sistemas con vida propia‘ que han puesto en aprietos a Mark Zuckerberg y Google?

¿Por qué interesó tanto esta declaración? Pues Zuckerberg es fundador de la compañía Meta (Facebook) y BlenderBot 3 es nada menos que un chatbot desarrollado por dicha empresa.

LEE TAMBIÉN: “Su empresa explota a la gente por dinero y a él no le importa”: el chatbot de Meta acusa a Zuckerberg de abusos

Esa respuesta salió a raíz de una prueba que hizo BBC al prototipo con diferentes preguntas. Pero la reacción del chatbot no fue, precisamente, lo mejor para la imagen de Zuckerberg, quien dirige también las redes sociales más importantes como Facebook, Instagram y Whatsapp.

Pero no es el único caso en el que un chatbot sorprende. Hace más de un mes se conoció el caso de LaMDA, el chatbot con inteligencia artificial desarrollado por Google. Aquella vez el ingeniero Blake Lemoine señaló que dicha herramienta tiene vida propia y contrató un abogado para que defienda sus derechos. Esto le costó su trabajo y Google lo despidió por violar su acuerdo de confidencialidad.

¿Por qué causan tanta polémica estas herramientas?

Primero hay que entender de qué se trata. El ingeniero de sistemas Elmer Quiroz Peña detalló a El Comercio que un chatbot es un pequeño aplicativo que está programado mediante la inteligencia artificial. “Básicamente es como una persona que interactúa y te va dando respuestas según las preguntas, basados en algunos algoritmos también para poder responder a tus necesidades, en diferentes entidades, ya sean educativas, financieras u otras”, detalló el docente de la Universidad Científica del Sur.

LEE TAMBIÉN: Meta invierte más de US$10.000 millones en el metaverso, pero parece un videojuego de 2006

Y es que una de las funciones de esta herramienta es la de establecer una comunicación, por ello que el nombre provenga de la unión de las palabras “chat” más “robot”, según detalló Quiroz. Sin embargo, se los debe diferenciar de los robots, que consisten en un mecanismo de voz que realiza preguntas en llamadas telefónicas e incluso añaden frases como “no te escucho bien” porque la voz no llegó a entenderse claramente.

La fuente es el problema

El chatbot BlenderBot 3 es el prototipo de una herramienta para Meta. Según detalló BBC, para la prueba se formuló una pregunta simple y se le consultó qué opinaba sobre Mark Zuckerberg. Incluso otros diarios como Wall Street Journal y Business Insider hicieron pruebas similares y recibieron respuestas sin ningún tipo de filtro.

¿Qué fue lo que sucedió? ¿Cómo funcionan estos chatbots?

Uno de los puntos claves es entender que la inteligencia artificial funciona a base de una programación. Explica el docente universitario que “lo que se tiene que hacer a nivel de la inteligencia artificial es dotar la mayor cantidad de respuestas posibles ante todos los eventos que puedan suscitarse por parte de un cliente a su empresa”. Pero en ese trabajo hay un detalle importante: la fuente de información.

LEE TAMBIÉN: ¿Cuánto cuesta ensamblar una PC tope de gama en el Perú? (guía actualizada a agosto del 2022)

Las respuestas que da el chatbot tienen un origen. En ese sentido, explica que se trabaja con una serie de fuentes ya establecidas en la programación y de ello dependerá la calidad de las respuestas. “Hay que ver las fuentes para saber de dónde extraigo toda esa información que me pueda apoyar a mí y saber de dónde obtenerla a través de la programación”, indicó. Y también destacó como algo importante que las preguntas deban estar direccionadas al tipo de negocio.

Por ello es que BBC sostuvo en su informe que probablemente las respuestas del chatbot de Meta hayan sido “aprendidas” de las opiniones de otras personas, sin ser analizadas.

Respecto a que puedan desarrollar sentimientos, tal como fue denunciado con Google, Quiroz Peña descartó esa posibilidad: “Por ahora en los chatbots no hay ese tipo de sentimientos como una personas”.

El chatbot en Perú

El uso del chatbot en el mundo tiene un desarrollo de por lo menos cinco años. En el Perú tiene menos de un año y son principalmente las instituciones educativas, financieras y de servicios las que utilizan más ese tipo de mensajería.

Sin embargo, aun no hay un marco regulatorio específico que establezca el funcionamiento de esta herramienta en nuestro país. Hoy existen gracias a otro tipo de políticas. “En las páginas de las organizaciones que tienen chatbot vas a ver una política de cookies, por un tema de protección de datos personales, pero legalmente un marco regulatorio no lo hay, aunque sí hay en temas de seguridad”, dijo Quiroz Peña.

LEE TAMBIÉN: Lo volvió a hacer: ingeniero crea bicicleta que funciona con rueda cortada en tres partes | VIDEO

Y donde más se regula es en el sistema financiero, gracias a la Resolución SBS Nº 504-2021, que habla de la gestión de seguridad de información, de ciberseguridad y de los activos digitales. Es en este último punto donde se incluye a los chatbots.

¿Cuánto tiempo demora diseñar y programa esta herramienta? El especialista nos cuenta que debería tomar un promedio de seis meses. “Demanda un tema de programación, desarrollo, verificación de usuarios”, dijo, pero lo más importante es la seguridad ya que el chatbot trabaja con una base de datos que puede ser vulnerada por terceros. Además, consideró que estos casos ayudan a mejorar el trabajo del chatbot en organizaciones, pues “es muy importante analizar las preguntas de los usuarios y eso va a crear una base de conocimiento, se va a ir alimentando”.

En conclusión, se trata de una tecnología en desarrollo, y que en nuestro país se debería estar debatiendo más para que tengan un marco legal, en especial para proteger los datos personales.