“Irán usó Claude para posibles ataques”: un informe de 154 páginas revela los usos más peligrosos de la IA

Actores vinculados al Gobierno de Irán utilizaron el modelo de inteligencia artificial Claude para apoyar operaciones de vigilancia, planificar posibles ataques contra objetivos estadounidenses y realizar propaganda, según un informe publicado por la empresa estadounidense Anthropic.

• ¿Qué significa realmente cuando se dice que la Inteligencia Artificial "nos va a matar a todos"?

La compañía documentó durante los últimos ocho meses varios usos indebidos de sus modelos por parte de actores estatales.

Claude, usado para operaciones de vigilancia

En un informe de 154 páginas, Anthropic señaló que estas herramientas pueden ayudar a identificar objetivos y procesar grandes cantidades de información relacionada con disidentes, periodistas, activistas y políticos. Esto permite a los Gobiernos hacer más eficientes sistemas de vigilancia que ya existen.

En el caso iraní, los usuarios recurrieron además a mecanismos para sortear las restricciones de acceso a Claude, que no está disponible oficialmente en el país. Para ello, utilizaron redes privadas virtuales y números de teléfono extranjeros.

Según Anthropic, un grupo de ciberdelincuentes vinculado a Irán utilizó una cuenta de Claude para elaborar recomendaciones de ataque contra las fuerzas navales estadounidenses en la región.

Otros usos indebidos de la inteligencia artificial

La compañía también documentó en su informe otros usos indebidos de Claude relacionados con armas convencionales y operaciones cibernéticas en países como China, Rusia y Yemen.

Anthropic afirmó que bloqueó esos usos ante el riesgo de que sus modelos pudieran contribuir al desarrollo de patógenos peligrosos, aunque reconoció que no pudo determinar si las investigaciones tenían fines legítimos o maliciosos.

“Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real”, explicó la empresa.

Anthropic advirtió de que la creciente capacidad y autonomía de los modelos de IA está reduciendo las barreras técnicas y económicas para realizar actividades que anteriormente requerían mayores conocimientos y recursos.

El informe surge entre crecientes preocupaciones de expertos en el sector tecnológico por el uso dual de la IA, ya que los modelos capaces de ayudar en investigaciones biológicas también pueden servir para actividades peligrosas.