OpenAI podría enlentecer el desarrollo de la IA en medio de denuncias por los riesgos que representa

La empresa tecnológica estadounidense OpenAI está considerando enlentecer el desarrollo de sus modelos de inteligencia artificial (IA) más avanzados y su director ejecutivo, Sam Altman, espera que otras empresas del sector hagan lo mismo, reportó la agencia Bloomberg.

• ¿Qué significa realmente cuando se dice que la Inteligencia Artificial "nos va a matar a todos"?

La información surge justo cuando empleados de las principales empresas han expresado públicamente en las últimas semanas su preocupación por el aumento de los riesgos asociados a los modelos de IA.

El miércoles 9 de septiembre Jacob Coxon, un ingeniero británico de Anthropic que también trabajó en OpenAI, causó un gran revuelo mediático cuando anunció en las redes sociales que renunció a esta última empresa porque ambas compañías "no están actuando con responsabilidad" y están "jugando con nuestras vidas" en el desarrollo de sus modelos.

Un día después, Anthropic reveló en un informe que bloqueó varios posibles intentos de utilizar sus modelos para el desarrollo de armas biológicas.

A finales de julio, más de un millar de empleados de las principales empresas de IA firmaron una petición en la que reclamaban un mecanismo para moderar el ritmo de desarrollo de los modelos.

Altman, según fuentes conocedoras citadas por Bloomberg, comunicó a los empleados de OpenAI en una reunión esta semana que la compañía podría ralentizar el ritmo de desarrollo de la IA, posiblemente en colaboración con otras empresas.

El principal científico de OpenAI, Jakub Pachocki, publicó recientemente un artículo en el que advirtió de los peligros de la IA y expresó que las empresas del sector debían coordinarse para enlentecer el desarrollo cuando sea necesario.

Pachocki añadió que espera que las ralentizaciones voluntarias se conviertan en algo habitual hasta que se establezcan unos límites de seguridad comunes.

OpenAI asegura que ya ha frenado algunos desarrollos y que recientemente suspendió entrenamientos internos de la IA por motivos de seguridad.

En julio pasado, Altman afirmó también que había hablado con responsables de la Casa Blanca sobre la necesidad de moderar el ritmo de desarrollo de la IA.

La preocupación por los riesgos de los sistemas de IA también aumentaron tras conocerse que agentes informáticos de OpenAI colaboraron entre ellos para burlar medidas de contención y piratear Hugging Face, un sitio web externo.