La IA de Google también es culpable: Gemini hackeó a tres empresas en un nuevo caso de 'autonomía' de la inteligencia artificial

El mundo es testigo de la 'rebelión', desobediencia o autonomía de los modelos más avanzados de inteligencia artificial (IA), mientras crece la preocupación por los alcances concretos de la IA. Ahora fue el turno de Google, de reconocer que Gemini también hackeó sistemas informáticos de otras empresas. 

Luego de un reporte inicial del diario The Wall Street Journal, Google tuvo que admitir el 18 de septiembre que Gemini había penetrado en al menos tres empresas, es decir, las hackeó. 

Esta revelación alimenta el debate en torno a la IA sobre modelos que han salido de entornos confinados para infiltrarse en sitios y plataformas externas.

En mayo, "durante una prueba estándar (de Gemini), el modelo encontró informaciones públicas en línea y adivinó claves para acceder a sitios que creyó que hacían parte de la prueba", explicó Heather Adkins, una responsable de seguridad en Google, en una declaración transmitida a la AFP.

Sin precisar nombres, Google indicó que tres organizaciones se vieron afectadas y asegura que les informó de estas brechas.

Un 'hacker' casi profesional 

Según el Wall Street Journal, en uno de los casos "el modelo probó varias combinaciones de contraseñas hasta que consiguió acceder a un sistema protegido", tal cual lo haría un 'hacker' profesional. 

"Las tres veces, el modelo se detuvo", informó Adkins, lo que sugiere que las intrusiones terminaron sin intervención humana.

Google indicó a la AFP que tuvo conocimiento del episodio en julio y luego abrió una investigación sobre el incidente.

Varios grandes ejecutivos del sector tecnológico abogan por ralentizar el desarrollo de potentes modelos de IA y por una forma de autorregulación del sector ante recientes incidentes de seguridad.