Amazon usa IA para detectar y eliminar reseñas falsas

Amazon utiliza herramientas de Inteligencia Artificial (IA), incluidos modelos de aprendizaje automático, modelos lingüísticos avanzados (LLM) y redes neuronales de gráficos, para analizar, detectar y eliminar las reseñas falsas, así como para garantizar a los usuarios que aquellas que se publican son confiables.

La compañía de comercio electrónico considera que una parte fundamental de la experiencia de compra en su plataforma es facilitar que los clientes puedan compartir de manera sencilla sus opiniones sobre los productos y, así, ayudar a otros clientes a tomar decisiones de compra fundamentadas.

MIRA: La billetera de Google ya se puede utilizar en Perú: ¿Qué tan seguro es pagar desde el celular?

Sin embargo, de entre todas las reseñas que se publican en la plataforma, también se encuentran otras que son falsas, que algunos usuarios comparten para “aprovecharse” de la experiencia de compra en Amazon. Estas reseñas engañan intencionadamente a los clientes proporcionando información que no es imparcial. Incluso, se llevan a cabo técnicas como el secuestro de reseñas para vender productos falsos a precios competitivos.

En este sentido, de cara a poner fin a este tipo de publicaciones fraudulentas, la compañía liderada por Jeff Bezos hace uso de una serie de herramientas impulsadas por IA con las que trata de identificar y eliminar las reseñas falsas, así como asegurar cuáles son realmente auténticas.

Tal y como ha explicado en una publicación en su blog, antes de publicar una reseña, Amazon analiza dicha información en busca de indicadores de riesgo que ayuden a detectar que podría ser falsa. Así, en caso de encontrar indicios, actúa rápidamente para “bloquearla o eliminarla” y, en caso de ser necesario, “tomar medidas adicionales”.

Por ejemplo, si se determina que se trata de una reseña falsa, se toman medidas como el cese del “privilegio” de publicar reseñas, el bloqueo de las cuentas de las personas infractoras o, incluso, la interposición de acciones legales.

Por otra parte, si una opinión es sospechosa pero no se puede confirmar con claridad que se trata de una reseña falsa, Amazon utiliza investigadores y expertos especialmente capacitados para “identificar conductas abusivas”. En concreto, este personal se encarga de “buscar y revisar otras señales de riesgo antes de tomar una decisión”.

MIRA: La autenticación biométrica en dispositivos Windows también está expuesta a vulnerabilidades

Igualmente, Amazon también utiliza los “últimos avances” en el campo de la IA para detectar estas reseñas falsas, así como las valoraciones manipuladas, las cuentas de clientes fraudulentas y otros abusos “antes de que los clientes los vean”.

Tal y como ha detallado la compañía, utilizan modelos de aprendizaje automático para analizar multitud de datos. En este caso, se tienen en cuenta cuestiones como que el vendedor haya invertido en publicidad, lo que le permite generar un número de reseñas adicionales. Asimismo, también se analizan aspectos como el envío de informes de abuso con respecto a dicho vendedor o el historial de reseñas.

Siguiendo esta línea, Amazon también utiliza modelos de lenguaje grandes, junto a otras técnicas de procesamiento de lenguaje natural, para “analizar anomalías” que pueden indicar que una reseña es falsa o que, incluso, está incentivada por una recompensa como una tarjeta regalo o un producto gratuito a cambio.

Otra de las herramientas que usa la plataforma son las redes neuronales de gráficos (GNN), con los que es capaz de comprender relaciones y patrones de comportamiento complejos. Tal y como ha detallado, se trata de una tecnología “crucial” ya que, para llevar a cabo una valoración correcta sobre una reseña hay que tener en cuenta, tanto la información relacionada con el tipo de cliente que la escribe, como el tipo de producto.

Gracias a la combinación de estas tecnologías de IA, Amazon asegura que es capaz de identificar las reseñas falsas con “mayor precisión” porque se trata de un análisis más profundo que el que se consigue con los indicadores de abuso superficiales. De hecho, ha subrayado que con la IA se consigue “identificar relaciones más profundas entre los posibles comportamientos infractores”.

“Mantener una experiencia de compra fiable y segura es nuestra principal prioridad”, ha manifestado la responsable de Relaciones Externas y Reseñas Fiables de Amazon, Rebecca Mond, al tiempo que ha aseverado que continuarán desarrollando nuevas formas para evitar que se publiquen reseñas falsas y de proteger a los clientes para “comprar con total confianza”.

Por su parte, el responsable del equipo de Prevención contra el Fraude y Abuso en Amazon, Josh Meek, ha apostillado que la prevención de reseñas falsas es importante ya que, no solo “millones de clientes confían en la autenticidad de las reseñas para tomar decisiones de compra”, sino que “también millones de marcas y colaboradores comerciales” confían Amazon para “identificar con precisión las reseñas que son falsas e impedir que lleguen a los clientes”.

Finalmente, Amazon ha puesto en valor que, durante el año 2022 consiguió identificar y bloquear “proactivamente” más de 200 millones de reseñas sospechosas de ser falsas a nivel global.