Exinvestigador de Google se suma a las alertas sobre la IA: “Podríamos estar quedándonos sin tiempo”
Bilal Chughtai, quien trabajó en seguridad y alineación de inteligencia artificial general, cuestiona la capacidad actual para controlar sistemas avanzados.
Las letras AI (de Inteligencia Artificial) en la pantalla de una computadora, junto al logotipo de la aplicación de chatbot Gemini de Google, 7 de mayo de 2026.
- Foto
AFP
Actualizada:
Compartir:
En medio del debate de los 'genio' de la Inteligencia Artificila (IA), un exinvestigador de Google DeepMind, que trabajó en la seguridad de la inteligencia artificial general (IAG), se sumó a las advertencias sobre la capacidad que tendría la IA para destruir a la humanidad y los llamados a una mayor regulación de esta tecnología.
El investigador Bilal Chughtai se unió a las voces de otros expertos sobre el avance de la inteligencia artificial en una publicación en su cuenta de X, tras renunciar al gigante tecnológico en julio pasado.
"En Google, fui testigo directo del desarrollo de la IA. Yo también estoy sumamente preocupado por la trayectoria que esta tecnología sigue por defecto", dijo Chughtai, que trabajó como ingeniero de investigación en seguridad y alineación de inteligencia artificial general en DeepMind desde principios de 2022.
El ingeniero se refirió al incidente en el que agentes de IA de OpenAI escaparon del control de la compañía para hackear de forma autónoma a la empresa externa HuggingFace, para avizorar una situación “aún más caótica”.
"Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace".
Bilal Chughtai
Chughtai señaló que la alineación de la IA sigue siendo un desafío sin resolver y subrayó que los investigadores aún tienen una comprensión "rudimentaria" de cómo entrenar sistemas avanzados para que persigan objetivos humanos de manera fiable.
La advertencia del ingeniero se une a los comentarios del investigador tecnológico Jacob Coxon, exempleado de Anthropic y OpenAI, que dijo que la IA podría hacer realidad las películas de ciencia ficción y acabar con toda la humanidad antes de que termine la década.
El director ejecutivo de Anthropic, Dario Amodei, también manifestó su preocupación el fin de semana pasado a través de un ensayo en el que pedía "un ritmo más lento" para la industria ante los crecientes riesgos de seguridad de la IA.
A Amodei se sumaron líderes tecnológicos como Sam Altman, de OpenAI, y Elon Musk, de xAI, en una coincidencia poco habitual en el sector para exigir más regulaciones.
Compartir: