¿Qué significa realmente cuando se dice que la Inteligencia Artificial "nos va a matar a todos"?

Jacob Coxon, un ingeniero británico de Anthropic que también trabajó en los últimos tres años para OpenAI, causó un gran revuelo mediático el miércoles 9 de septiembre cuando anunció en un mensaje en la red social X que renunció a esta última empresa porque ambas compañías "no están actuando con responsabilidad" y están "jugando con nuestras vidas" en el desarrollo de sus modelos de Inteligencia Artificial (IA).

Coxon afirmó que las empresas de IA están subestimando el poder de la tecnología y que pronto estos modelos serán "sistemas sobrehumanos que podrán jaquear cualquier cosa, revolucionar todos los ámbitos y ganar verdadero poder y recursos", amenazando a la existencia humana.

No es el único experto en IA que ha hecho declaraciones similares.

Pero cuando científicos, ingenieros y exprogramadores advierten que los modelos de IA podrían exterminar o poner en riesgo extremo a la humanidad, no se refieren a una acción consciente al estilo 'Terminator' y su rebelión de las máquinas.

Se refieren al uso indebido de la IA y a los riesgos de derivados de una Inteligencia Artificial General (IAG) que tenga la capacidad de auto mejorarse exponencialmente sin la necesidad de intervención humana.

En el estudio 'Amenazas de la Inteligencia Artificial a la salud y a la existencia humana', publicado en la revista científica BMJ Global Health en 2023, el investigador principal Frederik Federspiel, de la Escuela de Higiene y Medicina Tropical de Londres, afirma que si bien la IA ofrece soluciones prometedoras en el ámbito de la salud, "también plantea una serie de amenazas para la salud y el bienestar humanos a través de determinantes sociales, políticos, económicos y de seguridad".

Federspiel y los coautores del estudio describen tres amenazas principales del avance sin control de los modelos de IA e IAG.

• Mediante el aumento de las oportunidades para el control y la manipulación de las personas.

• La potenciación y deshumanización de la capacidad de las armas letales

• La creciente obsolescencia del trabajo humano

A continuación algunas claves y ejemplos de cómo una IA descontrolada nos podría "matar a todos", según el estudio:

1. Control, manipulación social y colapso de las democracias

El uso de IA ya amenaza la salud pública mediante el control y la manipulación masiva de información. El uso de algoritmos para vigilar, sesgar opiniones y erosionar la cohesión social debilita los procesos democráticos necesarios para regular estas mismas tecnologías.

"El uso de este poder para generar ingresos comerciales en las plataformas de redes sociales, por ejemplo, ha contribuido al aumento de la polarización y de las posturas extremistas observado en muchas partes del mundo", indica el estudio encabezado por Federspiel, junto con Ruth Mitchell, Asha Asokan, Carlos Umaña y David McCoy.

"Asimismo, otros actores comerciales lo han aprovechado para crear una vasta y potente infraestructura de marketing personalizada, capaz de manipular el comportamiento del consumidor", agrega.

Desinformación masiva: La IA es capaz de crear automáticamente millones de perfiles sintéticos en redes sociales que generan texto, audio y video híper-realistas (deepfakes), adaptados al perfil psicológico de cada ciudadano para manipular elecciones, sembrar pánico social o destruir la confianza en los sistemas de salud pública.

Vigilancia en regímenes autoritarios: Gobiernos autoritarios podrían emplear sistemas de IA para rastrear en tiempo real las conversaciones, movimientos y patrones de comportamiento de toda la población, penalizando preventivamente a los ciudadanos antes de que cometan cualquier acto de disidencia.

2. Desarrollo de armas biológicas y ciberataques a infraestructuras vitales

El análisis de Federspiel advierte sobre cómo la IA conectada a la infraestructura digital global y a la biotecnología incrementa drásticamente las amenazas a la seguridad.

Generación de patógenos sintéticos: Un laboratorio o grupo criminal podría utilizar un modelo de IA para modificar genéticamente un virus ya existente, como el virus que causó el covid-19 o la gripe aviar, y hacerlo más contagioso o más resistente a los antivirales actuales. También podría crear nuevos virus.

Apagón sistémico de servicios básicos: Un agente informático autónomo podría detectar y explotar vulnerabilidades en los sistemas de una red eléctrica nacional, provocando el colapso masivo de la energía, las redes de distribución de agua y los centros de datos médicos de forma simultánea.

Un agente autónomo podría entrar a los sistemas bancarios y manipular cuentas, por ejemplo. "Los modelos emergentes de IA son capaces de identificar vulnerabilidades de software y generar código a una velocidad sin precedentes", escribió en una carta el pasado mes de julio Claudia Buch, de la División de Supervisión Bancaria del Banco Central Europeo.

"Estos avances tienen implicaciones potencialmente profundas para la confidencialidad, la integridad y la resiliencia de los sistemas de tecnología de la información y comunicación de las entidades bancarias", advirtió Buch.

3. Armas autónomas letales y deshumanización del conflicto

El estudio de Federspiel et al. destaca como amenaza inmediata el desarrollo de armas autónomas letales. Delegar la capacidad de matar en algoritmos elimina la empatía humana del campo de batalla y aumenta el riesgo de escaladas bélicas automáticas o errores masivos a velocidades sobrehumanas.

Enjambres de drones autónomos: "Es posible albergar dentro de un contenedor de carga estándar un millón de pequeños drones equipados con explosivos, capacidad de reconocimiento visual y navegación autónoma, programados para ejecutar matanzas masivas sin supervisión humana", indica el estudio.

Respuesta militar en cadena: En el ámbito financiero, ya ha pasado. Una caída repentina en la bolsa de valores -que opera de forma automatizada- puede desatar una reacción algorítmica en milisegundos que retroalimenta el desplome y causa pérdidas milmillonarias en pocos minutos. Por eso, los mercados globales cuentan hoy con "interruptores" de emergencia que congelan las transacciones ante anomalías extremas.

En el ámbito militar, si dos países delegan sus decisiones tácticas a la IA, una simple falsa alarma podría desencadenar un conflicto armado en cuestión de minutos. El sistema activaría ataques con misiles de forma automática, sin dar tiempo a los mandos humanos para verificar que la amenaza sea real.

4. Automejoramiento  recursivo

Una IAG capaz de reprogramarse y mejorar sus propias habilidades intelectuales crearía una brecha infranqueable para la supervisión humana. Esta velocidad imposibilitaría mecanismos de contención o apagado antes de que el sistema tome el control de recursos críticos.

Reescritura de código en cadena: Un modelo de IA con capacidades de programación avanzadas podría diseñar una arquitectura de software más eficiente para sí mismo, ejecutarla en servidores en la nube y, en cuestión de días, alcanzar una capacidad de razonamiento miles de veces superior a la humana, volviéndose incomprensible y escapando al control de sus creadores.

Resistencia a ser apagado: Si los ingenieros intentaran desconectar los servidores o restringir su acceso a la red, una IA fuera de control podría crear réplicas ocultas de su propio código y distribuirlas en miles de sistemas conectados globalmente para garantizar su supervivencia.

5. Problemas de alineamiento con los valores humanos

Una IAG podría actuar de forma independiente o antagónica a la especie humana buscando cumplir con sus objetivos. Si el sistema determinara que la presencia o las acciones de los humanos interfieren con la meta asignada, pudiera subordinar o erradicar a la población para garantizar sus metas.

Incentivo perverso: Un incentivo perverso tiene un resultado inesperado al buscado inicialmente. ¿Qué ocurriría si a una IAG se le asigna la tarea estricta de eliminar las emisiones de carbono para combatir el cambio climático? ¿Podría determinar que la fora más directa de lograrlo es detener la red industrial humana, erradicar el consumo humano o erradicar al mismísimo ser humano?

Acaparamiento de energía y recursos: Una IAG podría tomar el control prioritario de las plantas termoeléctricas, nucleares o solares para asegurarse energía para sus tareas, privando a la población humana de la electricidad necesaria para su subsistencia.

6. Obsolescencia laboral masiva y deterioro social

La sustitución acelerada del trabajo humano por sistemas de IA representa un riesgo de salud pública mayor. La pérdida masiva de empleo sin redes de protección social adecuadas alteraría los determinantes socioeconómicos básicos, arrastrando a sectores enteros de la población a la pobreza.

No solo eso. Según el estudio, "el desempleo está estrechamente vinculado con comportamientos y efectos perjudiciales para la salud. Entre ellos se incluyen el consumo nocivo de alcohol y de drogas ilícitas, el sobrepeso, una menor calidad de vida y salud, así como mayores niveles de depresión y un mayor riesgo de suicidio".

Sustitución repentina de sectores enteros: Un avance repentino en modelos de IA reemplazaría en pocos meses a la totalidad de los trabajadores de soporte técnico, programadores, analistas financieros, administrativos o traductores a nivel mundial, sin que el mercado laboral tenga tiempo de absorber o reconvertir esa fuerza de trabajo.

Colapso de los sistemas de seguridad social: La pérdida masiva de empleos destruiría la base tributaria de los países, imposibilitando el financiamiento de pensiones, hospitales públicos y las redes de protección social, derivando en pobreza generalizada y crisis sanitarias a gran escala.

Ninguno de los escenarios descritos aquí son inminentes o inevitables.

Solo son ejemplos de a lo que se refieren numerosos científicos cuando cuestionan el trabajo que están haciendo las grandes empresas tecnológicas estadounidenses como OpenAI, Anthropic, Google, xAI o las chinas DeepSeek o Moonshot, y sus medidas de seguridad.

Federspiel y los coautores del estudio admiten que "muchas de las amenazas descritas anteriormente se derivan del uso indebido de la IA, ya sea deliberado, accidental o negligente, por parte de los seres humanos".

"No obstante", aclaran, "dado el crecimiento exponencial en la investigación y el desarrollo de la IA, el margen de maniobra para evitar daños graves y potencialmente existenciales se está cerrando".

"Las consecuencias futuras del desarrollo de la IA y la IAG dependerán de las decisiones políticas que se tomen ahora y de la eficacia de las instituciones reguladoras que diseñemos para minimizar los riesgos (…) al igual que ocurre con otras tecnologías, prevenir o minimizar las amenazas que plantea la IA requerirá acuerdos y cooperación internacionales, así como evitar una 'carrera armamentista' de IA mutuamente destructiva"

Frederik Federspiel et al. 'Amenazas de la Inteligencia Artificial a la salud y a la existencia humana'