La IA generativa está democratizando el fraude en el comercio electrónico, y los estafadores utilizan cada vez más imágenes generadas por IA para obtener reembolsos por artículos que nunca devuelven. De acuerdo a cableadolas plataformas de compras en línea, que durante mucho tiempo han dependido de fotografías enviadas por los clientes para validar las solicitudes de reembolso, tienen dificultades para distinguir entre reclamaciones por daños reales y fabricadas.
El problema se ha vuelto particularmente grave en las plataformas de redes sociales chinas como Nota roja y Douyin. Wired destaca un caso reciente que involucró a un comerciante de cangrejos llamado Gao Jing, quien recibió un reclamo de reembolso acompañado de un video de cangrejos «muertos». El fraude quedó al descubierto cuando el vendedor notó inconsistencias biológicas en las imágenes: los cangrejos tenían el número incorrecto de patas y el sexo de los cangrejos cambiaba entre los clips. La investigación policial confirmó que el vídeo fue generado por IA, lo que llevó a la detención del comprador.
El problema se extiende más allá de los estafadores individuales. Michael Reitblat, director ejecutivo de una empresa de detección de fraudes más fuertele dijo a Wired que las solicitudes de reembolso manipuladas por IA han aumentado en más de 15% a nivel mundial desde principios de año. Se informa que los grupos del crimen organizado están utilizando estas herramientas para automatizar el fraude a escala, utilizando direcciones IP rotativas para inundar a los minoristas con reclamaciones falsas por artículos para el hogar «dañados». Si bien algunos comerciantes están implementando sus propias herramientas de inteligencia artificial para detectar imágenes manipuladas, la tecnología sigue siendo imperfecta, lo que obliga a los minoristas a considerar políticas de devolución más estrictas que podrían incomodar a los compradores honestos.
En un desarrollo más ligero del mismo informe, Wired señala el éxito viral de «Yichang Beer». A pesar de su marca con caracteres chinos e imágenes de dragones, la cerveza en realidad se elabora en Kazajstán y se vendió originalmente en los mercados de habla rusa. La etiqueta del producto afirma que se elabora desde 1858, décadas antes de que la cerveza se introdujera en China. Irónicamente, después de volverse viral en las redes sociales chinas por su herencia «falsa», la cerveza ahora se importa y se vende en la ciudad real de Yichang.
