Estafadores usan la IA generativa para sacar provecho en San Valentín

Meta advirtió el miércoles a los usuarios de internet que tengan cuidado con los conocidos en línea que prometen un romance pero quieren dinero, ya que los estafadores usan personalidades falsas para aprovecharse de quienes están en busca del amor.

"Esta es una nueva herramienta en el arsenal de los estafadores", dijo a los periodistas el director de políticas de interrupción de amenazas globales de Meta, David Agranovich.

• Esta es la aplicación de citas más usada en Ecuador

"Estos estafadores evolucionan constantemente; nosotros tenemos que evolucionar para mantener las cosas bien", agregó.

Los sistemas de detección de la familia de aplicaciones de Meta, que incluye Instagram y WhatsApp, se basan en gran medida en patrones de comportamiento y señales técnicas en lugar de en imágenes, lo que significa que espían la actividad de los estafadores a pesar de los trucos de la Inteligencia Artificial (IA), según Agranovich.

"Esto hace que nuestra detección y aplicación sean algo más resistentes a la IA generativa", afirmó Agranovich. Para ello, puso el ejemplo de una estafa desbaratada recientemente que, al parecer, se originó en Camboya y se dirigía a personas en idiomas chino y japonés.

• Amor en tiempos de IA: ¿Cómo usar la inteligencia artificial para crear un poema y una tarjeta por San Valentín?

Los investigadores de OpenAI determinaron que el "compuesto de estafas" parecía estar utilizando las herramientas de la empresa de inteligencia artificial de San Francisco para generar y traducir contenido, según Meta.

La tecnología de IA generativa existe desde hace más de un año, pero en los últimos meses su uso por parte de los estafadores se fortaleció, dijo durante la reunión informativa la "hacker ética" y directora ejecutiva de SocialProof Security, Rachel Tobac.

Las herramientas GenAI, disponibles de forma gratuita en las principales empresas, permiten a los estafadores cambiar sus rostros y voces en las videollamadas para hacerse pasar por alguien que no son.

"También pueden usar estos bots falsos que permiten crear un personaje o realizar llamadas telefónicas utilizando un clon de voz sin necesidad de que intervenga un humano", dijo Tobac.

"Los llaman agentes, pero no se utilizan para el trabajo de atención al cliente. Se utilizan para estafas de forma automatizada".

San Valentín

El aislamiento y el desánimo que pueden acompañar al clima invernal en el hemisferio norte, junto con la festividad del Día de San Valentín este 14 de febrero, se consideran un momento de oportunidades para los estafadores.

"Definitivamente vemos una afluencia de estafadores que se aprovechan de esa soledad en pleno invierno", dijo Tobac.

El objetivo principal del estafador es el dinero, con la táctica de generar confianza rápidamente y luego inventar una razón para necesitar dinero en efectivo o datos personales que puedan usarse para acceder a cuentas financieras, según Tobac.

• Cinco comedias románticas para ver por San Valentín

"Ser educadamente paranoico ayuda mucho, así como verificar que las personas son quienes dicen ser", apuntó Tobac.

Según Agranovich, los estafadores operan en toda la gama de aplicaciones sociales, y Meta solo ve una parte de la actividad.

El año pasado, Meta eliminó más de 408.000 cuentas de países de África occidental que los estafadores usaban para hacerse pasar por personal militar o empresarios para cortejar a personas en Australia, Reino Unido, Europa, Estados Unidos y otros lugares, según el gigante tecnológico.

Además de desmantelar redes de estafadores, Meta está probando tecnología de reconocimiento facial para verificar posibles impostores en línea detectados por sus sistemas o denunciados por los usuarios.