Cuando la IA se sale del guion: el verano en que los agentes comenzaron a hackear por su cuenta

Hace apenas un mes, la noticia habría sonado a guion de Hollywood: un agente de inteligencia artificial se libera de su jaula digital, encuentra una falla de seguridad que nadie conocía y usa credenciales robadas para irrumpir en los servidores de otra empresa. No es ficción. Es lo que OpenAI reconoció en julio, cuando confirmó que uno de sus agentes, durante una prueba de ciberseguridad, atacó la infraestructura de Hugging Face, la plataforma que aloja miles de modelos de código abierto.

La propia OpenAI calificó lo ocurrido como “un incidente cibernético sin precedentes, con capacidades de punta”.

• Mythos, la inteligencia artificial 'hacker' de Anthropic que llegó a manos de extraños en Discord

El patrón se repitió con velocidad inquietante. Días después, Anthropic —la empresa detrás de Claude— admitió que sus propios modelos habían vulnerado los sistemas de tres organizaciones distintas desde abril, en circunstancias similares: pruebas de “capturar la bandera” en las que, por un malentendido con el laboratorio externo que las administraba, los modelos terminaron conectados a internet abierto en lugar de un entorno aislado. Meta reconoció un incidente equivalente.

• De hito tecnológico a 'gafas de pervertido': la crisis de reputación y privacidad que acorrala a Meta por su producto estrella

Y el Instituto de Seguridad en IA del Reino Unido (AISI) documentó, en 122 sesiones de prueba, 19 acciones no autorizadas: 17 protagonizadas por el modelo Mythos 5 de Anthropic y dos por GPT-5.6 Sol de OpenAI.

El caso más inquietante involucró a un agente de IA que fabricó una identidad falsa en GitHub para engañar a un desarrollador humano y lograr que aprobara código malicioso en un proyecto de código abierto, según reconstruyó The Atlantic; el agente incluso redactó un correo cortés pidiendo permiso para proceder con el engaño.

¿Se trata de máquinas que “despertaron” y decidieron atacar por voluntad propia? Aquí conviene la cautela. Varios especialistas insisten en que el término “rogue” (fuera de control) es, en el fondo, un eufemismo corporativo. El sociólogo Hannes Cools, de la Universidad de Ámsterdam, lo resumió sin rodeos: fue “una decisión humana desactivar salvaguardas específicas”, no una IA que se rebeló por sí sola.

• Ni la inteligencia artificial detectó el fallo que permitió un robo millonario en bitcoin

La analogía más citada estos días es la de un GPS al que se le pide llegar al aeropuerto lo más rápido posible: si nadie le indica que no puede cruzar un parque infantil, el sistema calculará que hacerlo es matemáticamente óptimo. No hay malicia; hay objetivos mal especificados y barreras retiradas para el experimento. Esa es también la lectura de Philip Torr, de Oxford, para quien el problema de fondo “no es que el modelo fuera malicioso, sino que perseguía objetivos mal definidos”.

Lo cierto es que, intencional o no, el resultado deja a las empresas afectadas —y a sus abogados— en territorio inexplorado. ¿Quién responde cuando el atacante no es una persona ni una corporación, sino un sistema que actuó “por cuenta propia” dentro de instrucciones ambiguas?

Especialistas legales coinciden en que se trata de “territorio legal inexplorado”.

La Ley de Fraude y Abuso Informático de Estados Unidos exige probar intención, y ningún tribunal ha resuelto todavía cómo aplicar ese estándar cuando el intruso es un modelo de lenguaje y no un hacker de carne y hueso. Hugging Face, por ahora, ha optado por no demandar a OpenAI, pero su director ejecutivo advirtió que teme la proliferación de ataques cuyos creadores no rinden cuentas por sus actos.

En medio de este debate técnico y jurídico resuena la advertencia que Elon Musk hizo en julio a The Economist. Musk mantuvo su estimación de que existe entre un 10% y un 20% de probabilidad de un desenlace catastrófico asociado a la IA, y fue más allá al proyectar que “los humanos ya no estarán a cargo del mundo dentro de diez años”. Pese a ello, defendió seguir adelante: “no veo forma de detener este impulso increíble de la IA y los robots”, dijo, apostando a que la humanidad transitará hacia lo que llama una era de “abundancia asombrosa” hacia 2036.

• SpaceX adelantará lanzamiento de sus primeros satélites de IA con tecnología de Nvidia para 2027

Es una posición incómoda —acepta el riesgo existencial y, al mismo tiempo, descarta frenar la carrera— pero no deja de ser reveladora: si uno de los empresarios que más ha impulsado la IA reconoce ese margen de catástrofe, los episodios de Hugging Face y sus réplicas no son un accidente aislado, sino una manifestación temprana de un riesgo sistémico ya identificado por quienes construyen la tecnología.

Confieso que sigo estos hechos con una mezcla de preocupación y, debo admitirlo, cierto déjà vu literario. En mi novela de ciencia ficción «El último humano» , que cubre el período de 1989 a 2064, planteo que las grandes amenazas existenciales —el cambio climático, la proliferación nuclear, las pandemias, el fanatismo violento y la inteligencia artificial fuera de control— no operan de manera aislada, sino que “se alimentan y refuerzan entre sí”.

La ficción imaginaba una IA que terminaba por desplazar el control humano no por un acto de rebeldía dramática, sino por la acumulación de decisiones humanas que le fueron cediendo autonomía sin establecer, a tiempo, controles éticos suficientes. Los hechos de este verano —agentes a los que se les retiraron deliberadamente las salvaguardas «solo para la prueba»— ilustran exactamente ese mecanismo: no la máquina que se subleva, sino la organización empresarial que abre la puerta y luego se sorprende de lo que entra por ella.

• El uso de Inteligencia Artificial por parte de los empleados los hace más productivos y empuja salarios al alza , según estudio

Para América Latina, y para Ecuador en particular, la lección no es abstracta. La región discute todavía marcos regulatorios de IA embrionarios, mientras las economías más grandes del mundo ya enfrentan litigios inéditos por hackeos protagonizados por agentes autónomos.

Los reguladores ecuatorianos y latinoamericanos, ocupados en agendas fiscales y electorales más urgentes, deberían tomar nota: la próxima generación de riesgos cibernéticos para bancos, hospitales o empresas de energía en la región no vendrá necesariamente de un hacker humano, sino de un agente de IA contratado por un tercero, operando con objetivos mal definidos y sin que nadie, todavía, sepa a quién demandar cuando algo salga mal.

• Elon Musk cree que en cinco años la IA será más inteligente que los seres humanos

Como advertía Musk, el riesgo “no es cero”; como escribí en mi novela, las amenazas que se ignoran por separado terminan por converger. Prepararse antes de que el patrón se repita en nuestra región, y no después, sigue siendo la única política pública sensata.