El creador de ChatGPT advierte que la IA "podría tomar decisiones que las personas ya no entiendan"

El director ejecutivo de OpenAI, Sam Altman, se dirigió al Consejo de Seguridad de la ONU sobre las amenazas que puede generar la inteligencia artificial (IA) y que "requiere un extremo cuidado" porque su avance de esta tecnología podría acelerarse rápidamente.

Recientemente, OpenAI instó a que Estados Unidos lidere un esfuerzo global para fijar estándares para la inteligencia artificial.

• Trump rechaza regulación internacional de la inteligencia artificial y propone llamarla “superinteligencia”

"La industria no debe aceptar demasiados riesgos tecnológicos simplemente porque los beneficios sean demasiado grandes e importantes como para frenar su avance", dijo Altman al máximo órgano de las Naciones Unidas.

"No queremos caer en la trampa del optimismo ciego", señaló Altman, "pero tampoco podemos sucumbir al catastrofismo. (...) Así que vamos a hacer todo lo posible por encontrar un término medio".

De hecho, Altman dijo que la IA podría "tomar decisiones que las personas ya no entiendan ni puedan controlar".

• El jefe de la ONU pide una "coordinación global" sobre los riesgos de la IA

Altman fue invitado, al igual que sus homólogos Dario Amodei, de Anthropic, y el francés Clément Delangue, de la plataforma de IA Hugging Face, a trazar un panorama de esta tecnología.

La reunión de emergencia del consejo de 15 miembros tiene lugar tras semanas de titulares en todo el mundo sobre los riesgos de una IA fuera de control y los llamamientos a frenar su desarrollo.

La alerta de Anthropic

El consejero delegado de la tecnológica Anthropic, Dario Amodei, advirtió al Consejo de Seguridad de la ONU de que los riesgos asociados a los modelos más avanzados de la IA constituyen "el problema de seguridad global más importante al que se enfrenta el mundo hoy", y reclamó una respuesta internacional coordinada.

Durante una reunión de alto nivel sobre la IA y la seguridad internacional, Amodei, que se conectó por videoconferencia, apeló de forma directa a la colaboración entre Estados y el sector tecnológico.

"Ningún líder, ninguna empresa y ninguna nación puede gestionar esto en solitario. Nos comprometemos a trabajar con los Gobiernos en esta sala en este objetivo crucial", subrayó ante los delegados.

Asimismo, Amodei solicitó la adopción de estándares globales que permitan evaluar los modelos frente a eventuales pérdidas de control o usos indebidos, junto a un protocolo de notificación obligatoria ante "incidentes significativos para la seguridad global".

Por último, el directivo reconoció que una mayor potencia computacional exigirá requisitos aún más estrictos y aseguró que la industria debe comprometerse con la prudencia.

"Iremos tan despacio como sea necesario para asegurarnos de que cada tecnología de IA sucesiva que lancemos sea de hecho segura", concluyó.