Un tsunami imparable de vídeos falsos sobre la guerra en Irán ahoga a la red X y hace difícil distinguir la realidad

Falsos videos creados con inteligencia artificial (IA) se multiplican en la red X y muestran soldados estadounidenses capturados por Irán, una ciudad israelí en ruinas o embajadas de Estados Unidos en llamas, en un tsunami de desinformación imposible de parar a pesar a una dura política para frenarla.

Es una ola que supera todo lo visto en conflictos anteriores y a menudo deja a los usuarios sin poder distinguir lo real de lo ficticio, aseguran investigadores.

En un intento por proteger la "información auténtica" durante conflictos, la red X, propiedad de Elon Musk anunció la semana pasada que suspendería por 90 días de su programa de ingresos a los creadores que publicasen videos sobre la guerra sin avisar de que fueron generados con IA.

Además, si seguían publicándolos, la suspensión sería permanente, según advertía en la misma red la jefa de producto, Nikita Bier.

Medidas que no evitan la propagación de desinformación

La nueva política interna es un giro importante en una plataforma duramente criticada por convertirse en el paraíso de la desinformación desde que Musk la compró por USD 44.000 millones en octubre de 2022.

Sin embargo, los investigadores de la desinformación se mantienen escépticos.

• La IA también va a la guerra y preocupa a los expertos por posibles 'errores' 

"Los hilos que monitoreo están aún inundados con contenido sobre la guerra generado por IA", dijo Joe Bodnar, del Instituto para el Diálogo Estratégico.

"No parece que los creadores (de contenidos) hayan sido disuadidos de difundir imágenes y videos engañosos sobre el conflicto generados por IA", agregó.

Bodnar apuntó a una publicación de una cuenta "blue check" o verificada, elegible para la monetización en X, que compartió un video hecho con IA en el que muestra un supuesto ataque iraní "con capacidad nuclear" contra Israel.

Incentivos por publicar falsedades

X no respondió a preguntas sobre cuántas cuentas ha desmonetizado desde el anuncio de Bier.

La red global de verificadores de contenido de la agencia AFP, de Brasil a India, identificó un flujo de contenidos falsos generados con IA, muchos procedentes de cuentas pagadas X, con la marca azul.

Entre estos hay videos hechos con IA que muestran soldados estadounidenses que lloran dentro de una embajada bombardeada, o tropas capturadas y de rodillas al lado de banderas iraníes, así como una flota de naves estadounidenses destruidas.

Este flujo de imágenes fabricadas, mezcladas con imágenes reales de Medio Oriente, continúa creciendo a un ritmo más rápido del que los profesionales de la verificación pueden señalar.

El propio chatbot de IA de X, Grok, pareció empeorar el problema al responder equivocadamente a los usuarios que buscaban verificar si algunos contenidos generados por IA sobre la guerra eran reales.

Los investigadores también han advertido que el modelo de X —que permite a las cuentas premium ganar dinero en función de la interacción— ha multiplicado los incentivos económicos por contenido falso o sensacionalista.

Una cuenta premium, que publicó un video que muestra en llamas al rascacielos Burj Khalifa en Dubái ignoró el pedido de Bier de identificarlo como obra de la IA. Sigue en línea y ha alcanzado más de dos millones de vistas.

El mes pasado, un informe del Tech Transparency Project señaló que X parecía obtener beneficios de más de dos docenas de cuentas premium de funcionarios del gobierno iraní y medios controlados por el Estado que difundían propaganda, lo que podría violar sanciones estadounidenses.

Posteriormente, X retiró la marca de verificación azul a algunos de ellos, según el informe.

Incluso si la penalización de X se aplicara de manera estricta, muchos usuarios que difunden contenido generado por IA no forman parte del programa de ingresos, afirman los investigadores.

Community Notes, sistema de cuestionable eficacia 

Esos usuarios siguen sujetos a verificación a través de Community Notes, un sistema cuya eficacia ha sido cuestionada.

El año pasado, un estudio del Instituto Democracia Digital para las Américas descubrió que más del 90% de las Community Notes de X nunca se publican.

"La política de X es una contramedida razonable frente a la desinformación viral sobre la guerra. En principio, esta política reduce la estructura de incentivos", dijo Alexios Mantzarlis, director de Security, Trust, and Safety Initiative en Cornell Tech.

Pero "es poco probable que X pueda garantizar al mismo tiempo una alta precisión y una alta retirada (de contenidos generados con IA de la red) a través de esta política", agregó.