Lensa AI: los riesgos en privacidad que debemos tomar en cuenta antes de usar la popular app

“No hay un término que diga que una empresa se puede considerar 100% segura. En el mundo de la ciberseguridad ese término no existe”, alega Diego Godoy, VP cyber risk consulting leader Perú en Marsh. Y es que en Lensa AI, las controversias no tardaron a llegar sobre todo por la forma en la que utilizan nuestros datos.

LEE TAMBIÉN: ¿Cómo será el Perú en 100 años? Una IA nos responde esta pregunta y nos da su visión futurista

Pero, primero conozcamos a Lensa AI. Se trata de un editor de fotos disponible para los usuarios de iOS y Android. Fue creada por Prisma Labs, la cual fue fundada en 2016 por Alexey Moiseenkov y un equipo de desarrolladores rusos.

En el mismo año lanzaron Prisma como una aplicación de edición de fotos y fue galardonada como la “Aplicación del año” en AppStore y GooglePlay. Mientras que dos años después, lanzaron Lensa.

¿Cómo funciona Lensa AI?

Con ella, podemos retocar cualquier fotografía: borrar fondos borrosos, añadir filtros, etc.

Posteriormente lanzaron una nueva función, la cual presentaron así:

“¡Es hora de actualizar tus fotos de perfil! Estamos orgullosos de presentar Magic Avatars. La poderosa IA generará una tonelada de avatares alucinantes basados en tu identidad y varios estilos artísticos. No se parece a nada que hayas visto, te lo prometemos. ¡Pruébalo ahora!”, se lee en la tienda de Play Store.

MIRA: ¿Cuál sería el plan perfecto para dominar el mundo? La IA de Elon Musk sorprende al dar la respuesta

Para crear estos “avatares mágicos”, el usuario debe subir entre 10 a 20 selfies en los que se le vea claramente el rostro. Luego la IA se encargará de revisar los rasgos faciales para así generar los avatares en base a las características propias del usuario. Por los cuales se deberá pagar US$3,99 por cada uno.

Tanto ha sido su popularidad que hasta personajes públicos como Bruno Pinasco han usado la app. El presentador de televisión no dudo en subir sus resultados a su cuenta de TikTok.

“Sin embargo, cabe la pregunta de qué tan segura está nuestra información en la plataforma del fabricante y de qué forma pueden utilizar nuestras imágenes”, comenta Julio Seminario, experto en ciberseguridad de BitDefender.

Como mencionamos al inicio, la forma en cómo se usan los datos de los usuarios han sido objeto de debate.

Privacidad cuestionable

Lo que se ha mencionado en los medios sobre Lensa AI está relacionado a sus términos y condiciones. Lensa afirma que no retiene las fotos personales, pero sí les da otros usos como el entrenar a su inteligencia artificial, “proporcionar, mejorar, probar y controlar la efectividad de Lensa”.

No obstante, mientras revisamos las reseñas de la aplicación en Play Store nos percatamos del descontento de una usuaria, quien denunció lo siguiente:

“La usé para generar los avatares pero me decepcionó mucho, la persona que reflejan no se parece nada en mí, por ejemplo: muestra a alguien en todas las fotos con ojos verdes, cejas muy delgadas y boca muy grande (tengo ojos oscuros, cejas gruesas y boca pequeña), parecieran los retratos de alguien más en la base, creo que no vale la pena pagar por algo poco seguro. A algunos he visto sí les salen bien pero empiezo a pensar que las fotos realmente las almacena y me salió lo de alguien más”.

“El gran problema que tenemos nosotros como usuarios finales es que no tenemos la potestad de decir a la aplicación: demuéstrame qué estas haciendo con mi información”, afirma Diego Godoy.

Por otro lado, el experto en ciberseguridad de Bitdefender añade que “el simple hecho de recopilar una gran cantidad de datos personales convierte cualquier aplicación o programa en un posible blanco para ataques, pues si se filtran esos datos, pueden ser usados para cometer actos delictivos o incluso comerciar con la información. Es decir, el verdadero riesgo no es alojar información personal, si no lo que facinerosos puedan hacer si estos datos son filtrados”.

“Ya cae bajo un tema de confianza porque no tenemos la certeza de qué realmente están tratando la información como ellos dicen hacer. Pero se alegan de que nosotros aceptamos esos términos y damos nuestro consentimiento”, puntualiza Godoy.

¿Qué clase de peligros conlleva aplicaciones como Lensa AI?

En términos generales, el experto de Bitdefender nos señala que al usar aplicaciones que almacenan nuestros datos biométricos como Lensa nos hace vulnerables a sufrir dos riesgos:

• Deepfakes. Se trata de una técnica en la que se utiliza la inteligencia artificial para recrear rostros y así hacer contenido falso. Usualmente, las víctimas son personajes públicos como artistas o políticos.
• Uso para actividades malintencionadas. Los atacantes pueden aprovechar esta tecnología de la IA para su uso en actividades ilícitas, acoso sexual o bullying cibernético.

En adición, TechCrunch descubrió que “es demasiado fácil engañar a Lensa AI para que haga imágenes NSFW (Not safe for work)”. Esto se refiere a contenidos de pornografía blanda no consensuada por los usuarios.

MIRA: Recrean a Diego Maradona con inteligencia artificial y da un conmovedor mensaje: “No me olviden”

En repuesta, la compañía creadora de Lensa respondió que “la compañía destaca que si provoca específicamente que la IA genere imágenes NSFW, podría hacerlo, pero está implementando filtros para evitar que esto suceda accidentalmente. El jurado aún no sabe si esto realmente ayudará a las personas que son víctimas de este tipo de cosas sin su consentimiento.”

El otro riesgo

“La mayoría de usuarios finales no llegan a esta aplicación por el nombre de la empresa o aplicación sino que llegan a través de recomendaciones, publicidad o porque alguien les paso el link. Y los usuarios no llegan necesariamente a aplicaciones como Lensa, sino a aplicaciones que han comenzado a crear, a clonar (los ciberatacantes)” confiesa Godoy.

Él alerta que los usuarios, al no tener una cultura de detenerse a leer los términos y condiciones, tienen altas posibilidades en caer en estas apps. Y un punto más determinante es que, al ser Lensa la app del momento, los atacantes aprovecharían para ofrecer lo mismo pero con la ventaja de que será gratuito.

“Los usuarios por un tema de conveniencia prefieren ir a este tipo de aplicaciones que no cobran”, añade.

¿Qué cuidados debemos tener al usar este tipo de apps?

El especialista nos recomienda realizarnos la siguiente pregunta: ¿Vale la pena arriesgar mis datos personales simplemente por por algo de moda o un trend? Debemos poner en la balanza.

Otro cuidado que sugiere es que debemos leer los términos y condiciones. Debemos leer esta sección sobre todo respecto al tratamiento de nuestra información.

MIRA: ChatGPT, la IA que te permite hablar con ella, podría ser utilizada por ciberdelincuentes para robar datos

También es importante conocer la aplicación que se está descargando. “Ver si ya hay recomendaciones, valoraciones. Investigar en el misma tienda y leer la descripción para saber que empresa está por detrás”, agrega.

El especialista finaliza que si reconocemos que no necesitamos la aplicación, entonces no la descarguemos. Y si la necesitamos, hacerlo pero con los respectivos cuidados.