Hombre fue estafado por más de $ 100 millones por una falsa novia generada con IA

Un ciudadano de Shanghái perdió más de 27.000 dólares (aproximadamente más de 111 millones de pesos colombianos) luego de ser engañado en una relación virtual con una supuesta pareja creada mediante inteligencia artificial, según informaron medios estatales chinos.

Los responsables de la estafa emplearon herramientas de inteligencia artificial generativa para producir videos y fotografías realistas de una mujer inexistente, según reportó la emisora pública CCTV.

Convencido de la autenticidad de su relación, el hombre realizó transferencias que sumaron aproximadamente 200.000 yuanes (alrededor de 27.580 dólares o 113 millones de pesos colombianos) a la cuenta que creyó pertenecía a su pareja.

Los estafadores utilizaron estos contenidos manipulados para persuadirlo de que debía aportar dinero con el fin de financiar un emprendimiento y cubrir gastos médicos de un familiar. Para reforzar su argumento, fabricaron documentos médicos y una identificación falsa.

CCTV, citando una investigación de las autoridades, señaló que la operación fue llevada a cabo por un "equipo de estafadores que enviaron vídeos y fotos creados por IA o combinando múltiples imágenes".

El medio estatal también resaltó que la víctima “nunca conoció” en persona a la mujer con la que mantenía contacto. En un video difundido por CCTV, se exhibieron imágenes de una mujer en distintos escenarios, como sosteniendo una paleta de pinturas y caminando por una calle de la ciudad.

Las herramientas de inteligencia artificial que pueden generar contenido visual y escrito con gran nivel de realismo están siendo empleadas en esquemas fraudulentos con creciente frecuencia.

A inicios de este mes, la empresa tecnológica Meta advirtió a los usuarios sobre los riesgos en las citas en línea, indicando que los fraudes con inteligencia artificial generativa van en aumento.

Meta alertó a los usuarios sobre el aumento de estafas románticas en línea, en las que delincuentes crean identidades falsas para aprovecharse de personas que buscan pareja.

Estas tácticas incluyen el uso de inteligencia artificial generativa para hacer que sus engaños sean más convincentes.

"Esta es una nueva herramienta en el arsenal de los estafadores", afirmó David Agranovich, director de políticas de interrupción de amenazas globales de Meta. Según explicó, los responsables de estos fraudes modifican constantemente sus estrategias, por lo que las plataformas deben actualizar sus métodos de detección.

Las aplicaciones de Meta, como Instagram y WhatsApp, utilizan sistemas que identifican comportamientos sospechosos en lugar de enfocarse únicamente en imágenes, lo que les permite detectar la actividad fraudulenta pese a los trucos con IA. "Esto hace que nuestra detección y aplicación sean algo más resistentes a la IA generativa", señaló Agranovich. Como ejemplo, mencionó una operación desmantelada recientemente que se originó en Camboya y tenía como objetivo personas que hablaban chino y japonés.

Investigadores de OpenAI descubrieron que este esquema de fraude empleaba herramientas de la empresa de inteligencia artificial de San Francisco para crear y traducir contenido, de acuerdo con Meta.

La inteligencia artificial generativa ha estado disponible por más de un año, pero en los últimos meses su uso por estafadores ha crecido, según Rachel Tobac, directora ejecutiva de SocialProof Security. "También pueden usar estos bots falsos que permiten crear un personaje o realizar llamadas telefónicas utilizando un clon de voz sin necesidad de que intervenga un humano", advirtió Tobac. Agregó que "los llaman agentes, pero no se utilizan para el trabajo de atención al cliente. Se utilizan para estafas de forma automatizada".

Con la llegada del Día de San Valentín el 14 de febrero y el impacto del clima invernal en el hemisferio norte, los estafadores ven una oportunidad para manipular emocionalmente a sus víctimas. "Definitivamente vemos una afluencia de estafadores que se aprovechan de esa soledad en pleno invierno", indicó Tobac.

El propósito principal de estos engaños es obtener dinero, ganándose la confianza de la víctima y luego pidiendo ayuda financiera o información personal para acceder a cuentas bancarias. "Ser educadamente paranoico ayuda mucho, así como verificar que las personas son quienes dicen ser", recomendó Tobac.

Las operaciones de fraude se extienden por distintas plataformas, y Meta solo detecta una parte de ellas. En 2023, la empresa eliminó más de 408.000 cuentas en países de África occidental, utilizadas para suplantar a militares o empresarios y atraer víctimas en Australia, Reino Unido, Europa y Estados Unidos.

Como parte de sus esfuerzos contra estos fraudes, Meta está probando un sistema de reconocimiento facial para identificar perfiles sospechosos reportados por los usuarios o detectados por sus herramientas de seguridad.