Empresa Anthropic frustra el uso de sus modelos de IA para posibles investigaciones sobre armas biológicas
La empresa de inteligencia artificial Anthropic no determinó si el uso de sus programas tenían fines legítimos o maliciosos. El bloqueo fue una medida para evitar el desarrollo de armas biológicas, detalla un informe.
Teléfono inteligente con el logotipo de Anthropic, la empresa estadounidense de investigación y seguridad en inteligencia artificial, en Mulhouse, el 21 de abril de 2026.
- Foto
AFP
Autor:
EFE/Redacción Primicias
Actualizada:
Compartir:
En medio de una alerta sobre el uso indebido de los modelos de inteligencia artificial (IA), la empresa estaunidense Anthropic frustró varios "posibles complots" en los que se utilizaron sus programas para realizar investigaciones que podrían haber contribuido al desarrollo de armas biológicas.
En el informe publicado este 10 de septiembre, la compañía informó que detectó y bloqueó estos usos indebidos durante este año.
La publicación llega un día después de la renuncia de Jacob Coxon, ingeniero de software de Anthropic, quien aseguró que esta empresa y OpenAI (donde trabajó anteriormente) "no están actuando con responsabilidad" y están "jugando con nuestras vidas".
Aunque no pudieron determinar si los estudios tenían fines legítimos o maliciosos, la empresa bloqueó el uso de sus modelos ante el riesgo de que pudieran contribuir al desarrollo de patógenos peligrosos.
"Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real".
Anthropic
La corporación negó que tuviera constancia de que alguna empresa privada haya compartido públicamente "evidencia del posible mal uso de sus plataformas para el desarrollo de armas biológicas".
Uso indebido de moldes de IA
Anthropic incluyó además en otro comunicado una extensa lista de casos detectados en los últimos ocho meses en los que se habían usado sus modelos de IA de manera indebida, incluido el chatbot Claude, en China, Rusia y Yemen.
Este informe surge entre crecientes preocupaciones de expertos en el sector tecnológico por el uso dual de la IA, ya que los modelos capaces de ayudar en investigaciones biológicas también pueden servir para actividades peligrosas, y también de voces que alertan de los peligros derivados de la creciente autonomía de estos modelos.
La empresa tecnológica aseguró haber desarrollado sistemas de detección para identificar y bloquear los usos que puedan suponer un riesgo en sus modelos de IA.
Compartir: