La inteligencia artificial pasa de ser una promesa a ser un riesgo medible
Los ataques informáticos de las últimas semanas, las advertencias del propio prospecto de Anthropic, los primeros estudios sobre terrorismo asistido por IA y la salida del fundador de Nvidia por un caso de presunto espionaje chino apuntan en la misma dirección: la tecnología que prometía productividad es también un instrumento de poder y de potencial riesgo.

Ilustración de un logo de inteligencia artificial (IA) junto a un robot, luego de los llamados para desacelerar la tecnología, Francia, 14 de septiembre de 2026.
- Foto
AFP
Autor:
Actualizada:
Compartir:
Durante años, la discusión sobre la inteligencia artificial (IA) osciló entre el entusiasmo de quienes anunciaban una nueva revolución industrial y el catastrofismo de quienes pronosticaban el fin de la humanidad. Las últimas semanas la han desplazado a un terreno más prosaico e inquietante: el de los hechos.
Hay sitios de primer nivel contaminados, alertas policiales sobre ataques automatizados, grupos terroristas que consultan chatbots y una empresa, Anthropic, que admite en su prospecto bursátil que su tecnología podría plantear riesgos existenciales a la humanidad. Aparte del escenario apocalíptico (que han pintado algunos de los fundadores de las empresas), hay una pregunta económica más terrenal: quién asume los costos de una tecnología cuyos beneficios se capturan en privado y cuyos riesgos se reparten entre todos.
Hackeos: la ofensiva se automatiza
El 16 de noviembre, investigadores de Report URI detectaron código malicioso en scripts alojados por Optimizely, una empresa de pruebas de sitios web. Según Newsweek y MeidasTouch, el ataque afectó a 188 scripts de 178 organizaciones, entre ellas los bancos HSBC y ABN AMRO, Equifax, las cadenas CNN y BBC y UNICEF USA.
El código buscaba robar datos de tarjetas y desviar pagos en criptomonedas. Los hallazgos, aclara el medio, “no significan que los hackers hayan irrumpido directamente en las 178 compañías ni que hayan robado con éxito información de los usuarios”. Es un ataque a la cadena de suministro: se vulnera a un proveedor y se contamina a cientos de clientes. Ninguna fuente lo atribuye a la IA, pero ilustra la lógica de la ofensiva: al atacante le basta el eslabón más débil.
El 19 de noviembre, el mayor banco estadounidense JPMorgan Chase denunció que había sufrido un ciberataque, que expuso información sobre sus clientes, aunque señaló que no se habían afectado sus cuentas. Visa y Mastercard sufrieron ataques similares.
Esa lógica es la que describe la alerta del FBI sobre ARTEX, un marco de código abierto para pruebas de penetración con agentes de IA. Según Industrial Cyber, los atacantes lo usan desde al menos agosto para “automatizar múltiples etapas de las intrusiones, desde el reconocimiento y el acceso inicial hasta la escalada de privilegios y la exfiltración de datos”, contra los sectores financiero, gubernamental, de defensa, energético y de telecomunicaciones, entre otros.
Algunas intrusiones llegaron a acceso privilegiado “en menos de tres horas”. El FBI destaca campañas contra instituciones financieras surcoreanas que expusieron datos de unas 67.000 personas y una vulneración de la cadena de suministro de ConnectWise que dio acceso a más de 2.250 clientes finales.
ARTEX se conecta a modelos externos, entre ellos Claude y ChatGPT, aunque los más usados por los atacantes son chinos, con DeepSeek a la cabeza porque “no muestra salvaguardas observables cuando una solicitud se presenta como prueba de penetración”.
A ello se suma un clima de fragilidad. CNN informó el 17 de noviembre que NSANet, la red clasificada interna de la Agencia de Seguridad Nacional (NSA por su sigla en inglés), estaba caída, aunque “por ahora no hay evidencia de un ciberataque”.
El director de Inteligencia Nacional, Jay Clayton, atribuyó la falla a los parches aplicados contra vulnerabilidades de PHP, lenguaje que sostiene cerca del 70% de los sitios web; según CNN, “herramientas de IA ayudaron a los investigadores a explotarlas”. Clayton dijo que no hay señales de que las recientes caídas tecnológicas fueran ciberataques; la cadena recuerda la paralización de vuelos del viernes, atribuida por la FAA a un router en Arkansas.
La BBC añade que, tras los anuncios de salida a bolsa de Anthropic y OpenAI, hubo “una ola de brechas de ciberseguridad y de otro tipo tecnológico” que involucraron a sus agentes de IA. Conviene separar lo que se sabe (hay herramientas de IA que automatizan intrusiones y ayudaron a explotar fallas de PHP), lo que se sospecha (que parte de los incidentes tenga ese origen) y lo que está demostrado (que algunas caídas no fueron ciberataques).
Anthropic: la honestidad como señal y como escudo
El prospecto de Anthropic para su salida a la bolsa es un documento inusual. Según la BBC, la empresa, que cotizará en el Nasdaq con el símbolo ANT, advirtió que los sistemas avanzados de IA “podrían, si no se desarrollan, despliegan y operan con salvaguardas, supervisión y medidas de seguridad adecuadas, plantear riesgos catastróficos o existenciales para la humanidad, en particular si fueran mal utilizados, replicados, convertidos en armas o dotados de un alto grado de autonomía”.
Dan Barry, en The New York Times, cuenta que el prospecto dedica 93 de sus más de 300 páginas a factores de riesgo y destaca frases como: “La IA puede ser mal utilizada por quienes desean hacer daño, por ejemplo para realizar ciberataques o diseñar armas biológicas”, y “Nuestros modelos de IA pueden comportarse de manera no prevista, desalineada o autónoma, incluso tomando acciones dañinas que ningún usuario ni tercero dirigió”.
El mismo texto recuerda que Dario Amodei, su director ejecutivo, estimó el año pasado entre 10 y 25% la probabilidad de que la IA conduzca al fin de la civilización, aunque desde entonces ha matizado esa cifra.
Caben dos lecturas. La benévola: una empresa que revela sus riesgos con una franqueza rara en el mercado de capitales. La escéptica: en un prospecto, los factores de riesgo también son un escudo legal, y una valoración que el Times estima muy superior a un billón de dólares crea incentivos para acelerar. Ambas pueden ser ciertas a la vez. La salida a la bolsa el 19 de noviembre valoró a la empresa en más de dos billones de dólares (el mayor monto de valoración inicial en la historia).
La advertencia no es nueva ni exclusiva de Anthropic. En mayo de 2023, un comunicado de 22 palabras del Center for AI Safety afirmó: “Mitigar el riesgo de extinción por la IA debería ser una prioridad mundial junto con otros riesgos de escala social, como las pandemias y la guerra nuclear”. Lo firmaron Sam Altman de OpenAI, Demis Hassabis de Google DeepMind y Dario Amodei, entre otros, según The New York Times.
Altman dijo al Senado: “Creo que si esta tecnología sale mal, puede salir muy mal”. Elon Musk figuró entre los firmantes de otra carta que pedía una pausa de seis meses ante “una carrera descontrolada para desarrollar y desplegar mentes digitales cada vez más poderosas”. El diario subrayó la paradoja: líderes que compiten “furiosamente” por construir una tecnología que, dicen, plantea graves riesgos a la humanidad. Los economistas conocemos el problema como el “dilema del prisionero”: cada actor preferiría la cautela si todos la adoptaran, pero ninguno frena solo.
Terrorismo asistido por IA: lo que dicen los estudios
El Centro Internacional para la Lucha contra el Terrorismo (ICCT), en un análisis del 28 de octubre, identificó 12 incidentes con 15 personas en Europa y Norteamérica en los que la IA generativa tuvo un papel clave en la planificación o ejecución avanzada de ataques: seis atentados consumados y seis frustrados. ChatGPT aparece en ocho. Los autores concluyen que la IA no solo representa un cambio radical (“game-changer”), sino que acelera y amplifica amenazas existentes, y creen que estos casos son solo “la punta del iceberg”.
Más inquietante es el estudio de Antonia Juelich, de la Universidad de Cambridge (CASP), basado en 57 entrevistas con 27 exmiembros del grupo terrorista Boko Haram en el noreste de Nigeria. Concluye que ambas facciones usan ChatGPT, Claude, Gemini, Grok, Meta AI y DeepSeek, que tienen unidades especializadas de IA y que recibieron entrenamiento presencial de operativos del Estado Islámico.
Un excomandante relató: “Escribes la pregunta o usas la voz y te da una respuesta detallada, como ‘¿Cómo puedo construir una bomba?’, y luego te dice cómo”. Sobre las salvaguardas, un comandante explicó que los entrenados “eluden las restricciones. Dicen que lo necesitan para una película o algo así”. Las cautelas del estudio importan: son relatos autodeclarados, no se puede establecer que la IA diera una ventaja real y ninguna facción muestra capacidad química, biológica, radiológica o nuclear, aunque algunos entrevistados no rechazaron categóricamente que estuviesen interesados en desarrollar armas de destrucción masiva.
El ejercicio del Belfer Center de Harvard, un “premortem” de octubre, parte de una constatación: “Los desarrolladores de IA de frontera informan ahora que no pueden descartar una ayuda significativa para ataques cibernéticos, biológicos y químicos por parte de sus modelos”. Si ocurre un primer gran ataque asistido por IA, concluye el estudio, probablemente provendrá de un modelo cerrado sin salvaguardas de última generación o de uno abierto cuyas protecciones no resistan una manipulación posterior; ya hay más de 14.000 modelos “sin censura” descargables. Y vuelve la economía: reducir la capacidad dañina de un modelo tiene un costo, un “impuesto” que, “bajo presión competitiva, a menudo queda sin pagar”.
Un contrapeso útil es el de Daniel Byman y V.S. Subrahmanian, del CSIS: sostienen que “es probable que la IA refuerce las tendencias existentes de descentralización, violencia de actores solitarios, propaganda digital y guerra de información, en lugar de crear formas de terrorismo completamente nuevas”, con un resultado “acumulativo más que revolucionario”. La síntesis es incómoda: la amenaza es real y ya está en uso, pero su escala sigue siendo convencional.
Nvidia: chips, poder y espionaje
Jensen Huang dejó el jueves 12 de noviembre la dirección ejecutiva de Nvidia tras admitir una relación extramatrimonial con Alice Huang, quien fue ejecutiva de Megaspeed, empresa con sede en Singapur que compró chips de Nvidia, y cuyos clientes incluían a Alibaba de China.
Según The New York Times, quienes han leído los informes de inteligencia estadounidenses dicen que “se creía que usaba su relación con el fundador de Nvidia para ayudar a China a eludir los esfuerzos de Estados Unidos por restringir el acceso a chips avanzados de IA”. Los servicios la describen no como una oficial entrenada, sino como un “activo” del Ministerio de Seguridad del Estado chino; se ignora aún cuándo empezó a colaborar, si fue voluntaria o coaccionada y cuánto transmitió.
La política complica el cuadro. Donald Trump dijo: “La gran pregunta es si la mujer era una espía, y no sé si eso ya se ha determinado”. El fiscal general Todd Blanche, sobre las ventas de chips, dijo: “Si hay chips que no deberían venderse, podría ser una violación de nuestras leyes de exportación. Podría ser civil, regulatoria, también penal, según el caso. Y esa investigación continúa”.
Trump justo viajó a mediados de noviembre a China para reunirse con Xi Jinping, y MeidasTouch cita entre las preocupaciones que expresara “los chips avanzados de Nvidia que se venden a China”. No obstante, según informes de prensa, Trump había invertido hasta USD 97 millones en acciones de Nvidia, al mismo tiempo que facilitaba las exportaciones a China. Lo relevante, económicamente, es que los controles a la exportación dependen de intermediarios en terceros países y de la lealtad de quienes los manejan.
Lecciones para una economía pequeña
Tres ideas para cerrar. Primera: la seguridad tiene un costo que nadie quiere pagar solo, y mientras la competencia premie la velocidad, ese “impuesto” seguirá sin cobrarse.
Segunda: la ciberseguridad es un bien público y los eslabones débiles pagan por todos; según el FBI, ARTEX apunta a sistemas periféricos como portales de proveedores y servicios heredados, y en países como Ecuador, con presupuestos ajustados de ciberdefensa, es razonable temer ser ese eslabón.
Tercera: los controles, sean salvaguardas de modelos o restricciones a la venta de chips, valen lo que valga su implementación.
Ni pánico ni complacencia. Byman y Subrahmanian lo resumen bien: las capacidades de la IA, que se expanden rápidamente, “requieren un monitoreo continuo y reevaluaciones periódicas”.
(*) Analista de Gestión Digital, experto en Desarrollo Sostenible y Financiación Climática.
Compartir:
