En el campo de batalla de la revisión en línea, es IA contra IA.
La inteligencia artificial generativa que puede escupir reseñas que parecen humanas se encuentra con una IA entrenada para detectar reseñas falsas. Es el tipo de conflicto que tiene implicaciones para los consumidores, así como para el futuro del contenido en línea.
Saud Khalifah, fundador y director ejecutivo de Fakespot, una empresa emergente que usa IA para detectar reseñas fraudulentas, dijo que su empresa ha visto una afluencia de reseñas falsas generadas por IA. Fakespot está trabajando en una forma de detectar contenido escrito por plataformas de IA como ChatGPT.
«Lo que es muy diferente hoy en día es que las modelos están tan informadas que pueden escribir sobre cualquier cosa», dijo.
Las reseñas en línea falsas han existido durante tanto tiempo como las reseñas en línea reales, pero el problema ha adquirido una nueva urgencia gracias a preocupaciones más amplias sobre la tecnología avanzada de inteligencia artificial que ahora está ampliamente disponible en Internet.
Después de años de tratar el problema caso por caso, la Comisión Federal de Comercio propuso el mes pasado una nueva regla para tomar medidas enérgicas contra las reseñas fraudulentas. Si se aprueba, la regla prohibiría escribir reseñas falsas, pagar por reseñas, ocultar reseñas honestas y otras prácticas engañosas, e impondría fuertes multas a quienes la infrinjan.
Pero lo que es o no una reseña falsa ahora está menos claro, y la tecnología para detectar reseñas fraudulentas aún es un trabajo en progreso.
«No sabemos, realmente no tenemos forma de saberlo, en qué medida los malos actores realmente usan cualquiera de estas herramientas, y cuántas pueden ser generadas por robots versus generadas por humanos», dijo Michael Atleson, abogado de la División de Prácticas Publicitarias de la FTC. «Realmente es una preocupación más seria, y es solo un microcosmos de preocupaciones que estos chatbots se usarán para crear todo tipo de contenido falso en línea».
Hay indicios de que las revisiones generadas por IA ya son comunes. CNBC informó en abril que algunas reseñas en Amazon tenían claros indicios de la participación de la IA, muchas de las cuales comenzaban con la frase «Como modelo de lenguaje de la IA…»
Amazon es uno de los muchos vendedores en línea que ha tenido problemas con las reseñas falsas durante años. Un portavoz dijo que la empresa recibe millones de reseñas cada semana y bloqueó proactivamente 200 millones de presuntas reseñas falsas en 2022. La empresa usa una combinación de investigadores humanos y de IA para detectar reseñas falsas, utilizando modelos de aprendizaje automático que analizan factores como el historial de reseñas de un usuario, la actividad de inicio de sesión y la relación con otras cuentas.
El hecho de que las reseñas generadas por IA no estén totalmente en contra de las reglas de Amazon complica aún más el problema. Un portavoz de Amazon dijo que la compañía permite a los clientes publicar reseñas generadas por IA siempre que sean genuinas y no violen las pautas de la política.
El gigante del comercio electrónico también indicó que necesitaría ayuda. En junio, Dharmesh Mehta, vicepresidente de servicios de socios de ventas mundiales de Amazon, llamó a una empresa entrada en el blog por una mayor colaboración entre el «sector privado, los grupos de consumidores y los gobiernos» para abordar el creciente problema de las reseñas falsas.
La pregunta crucial es si la detección de IA podrá burlar a la IA que crea reseñas falsas. Las primeras reseñas falsas generadas por IA detectadas por Fakespot vinieron de la India hace unos meses, dijo Khalifah, producidas por lo que él llama «granjas de reseñas falsas», empresas que venden reseñas falsas en masa. La IA generativa tiene el potencial de facilitar su trabajo.
«Definitivamente es una prueba difícil de pasar para estas herramientas de detección», dijo Bhuwan Dhingra, profesor asistente de ciencias de la computación en la Universidad de Duke. “Porque si los patrones son exactamente como los humanos escriben algo, entonces realmente no puedes diferenciarlos. No esperaría ver un detector pasar la prueba con éxito en el corto plazo.
Varios estudios han demostrado que los humanos no son particularmente buenos para detectar reseñas escritas por IA. Muchos tecnólogos y empresas están trabajando en sistemas para detectar contenido generado por IA, y algunos como OpenAI, la empresa detrás de ChatGPT, incluso trabajan en IA para detectar su propia IA.
Ben Zhao, profesor de ciencias de la computación en la Universidad de Chicago, dijo que era «casi imposible» que la IA superara el desafío de ahogar las reseñas generadas por la IA, porque las reseñas creadas por bots a menudo no se distinguen de las reseñas humanas.
“Es una cacería continua del gato y el ratón, pero en última instancia no hay nada fundamental que distinga el contenido creado por IA”, dijo. «Encontrará sistemas que afirman ser capaces de distinguir entre el texto escrito por humanos y el texto de ChatGPT. Pero las técnicas detrás de ellos son bastante simples en comparación con lo que intentan ponerse al día.
Con 90% de los consumidores Decir que leen reseñas cuando compran en línea es una perspectiva que preocupa a algunos defensores de los consumidores.
«Es aterrador para los consumidores», dijo Teresa Murray, quien dirige la oficina de vigilancia del consumidor del Grupo de Investigación de Interés Público de EE. UU. «La IA ya está ayudando a las empresas deshonestas a publicar reseñas reales en un tono conversacional por miles en segundos».