Hace poco se estrenó en Netflix un documental sobre cómo los agentes 'desobedientes' de OpenAI hackearon Hugging Face, una plataforma de aprendizaje, y el clip revela que estos modelos de IA en realidad se 'comunicaron' y hasta establecieron estrategias para encubrirse. Aunque parezca distopia o ciencia ficción, para el ingeniero ecuatoriano Pablo Zavala, de 25 años, no lo es. 

"Los agentes IA ya hablan entre ellos, es posible, no es algo fuera de este mundo, aunque para la gente obviamente resulta nuevo (...) pero pasa, y se comunican", dice Zavala en entrevista con PRIMICIAS, casi un mes después de ganar el primer lugar en un concurso organizado por OpenAI, la empresa detrás del famoso y también polémico ChatGPT. 

Zavala, un joven quiteño con una maestría en gestión de datos de la Universidad Carnegie Mellon, triunfó en un hackathon de OpenAI realizado en Nueva York, y que animaba a los concursantes a usar Astra, uno de los modelos más avanzados de IA de la empresa. 

Un 'ejercito' de agentes IA que trabajan 24 horas

Junto a dos jóvenes universitarios de Chicago y Florida, Zavala ideó un 'staff' de agentes IA para optimizar el trabajo de otras empresas. La propuesta ganadora se llama Astra HQ. 

En palabras simples, se trata de una interfaz que visualiza el trabajo del 'ejército' de agentes de IA en una compañía o a cargo de las diferentes secciones de una oficina. 

"Es un programa muy intituivo para el usuario y muy tangible, porque se ve el trabajo específico que cada agente está haciendo", explica Zavala, bastante emocionado porque ganaron USD 50.000 en créditos de OpenAI, que si bien, no es en efectivo, le ha servido para dar los primeros pasos para fundar su propia empresa. 

De hecho, la meta de Zavala y sus otros dos compañeros ganadores es comercializar el modelo, conformado por un grupo de agentes que pueden trabajar las 24 horas del día, los siete días a la semana. 

Incluso, son "bastante proactivos", indica Zavala, al indicar que los agentes 'actúan' sin esperar a que el usuario o 'humano' les escriba a través de un chat.

Así, es tal como lo imagina, son agentes de IA autónomos, programados por humanos, pero que ya pueden tomar decisiones, como ocurrió con los modelos que hackearon Hugging Face o el incidente reportado hace poco con la vulneración del sistema de salud de Australia. 

¿Qué hay de los riesgos de la IA?

Hablar con Zavala es igual a conversar con un evangelizador de la IA: no le tiene miedo a esta tecnología ni a los agentes IA. Cuenta que utiliza la IA generativa desde 2022 para análisis de datos predictivos.

Pero ahora incursionó en la IA General, cuyos desarrolladores buscan que iguale o mejore el razonamiento humano, incluso algunos alegan que tiene 'conciencia' y hasta puede destruir a la humanidad. 

El joven ecuatoriano no desconoce los riesgos que supone la IA para el mundo, pero asegura que la única manera de combatirlos no es frenar ni prohibir la tecnología, sino al contrario, hay que desarrollarla. 

"Hay muchos riesgos que, sin duda alguna, si es que llegan a ocurrir serían mucho más grandes que todos los beneficios netos que se pronostican. Y creo que la auditabilidad humana es la única manera en la que se pueden prevenir desastres, tales como el de Hugging Face", expresa Zavala, quiteño de nacimiento y radicado en Pittsburgh (Estados Unidos). 

Prohibición no, regulación sí

Hace poco, los principales 'gurús' de la IA se reunieron con el presidente de Estados Unidos, Donald Trump, y el republicano descartó una regulación a las empresas que desarrollan esta tecnología. 

Más bien, habló de un 'codigo de ética' propia y autorregulación, con el fin de apaciguar los riesgos de la IA, como la posible eliminación de empleos, la vulneración de sistemas, y la proliferación de imágenes falsas que pueden socavar la democracia en algunos países. 

Zavala opina algo similar, para este joven ecuatoriano la regulación de los modelos más avanzados de IA debe llegar desde sus propios creadores, porque conocen la tecnología y "podrán mitigar los riesgos lo máximo posible". 

"Los gobiernos lastimosamente siempre van a estar un paso por detrás (de la IA), por más que se traten de igualar". 

Pablo Zavala, joven ingeniero de Ecuador. 

Zavala dice que prohibir la IA en el mundo, al igual que ocurre con un veto a las redes o el uso de celulares en los colegios, no es posible. Explica que hay modelos de inteligencia artificial de China que son de código abierto y que se podrán utilizar libremente, aún si las empresas con sede en Estados Unidos como OpenAI deciden 'pausar' sus desarrollos. 

¿Qué podemos hacer los 'humanos'?

Auditar o 'regular' la inteligencia artificial solo será posible si aprende de ella es el lema de Zavala. Por ello, propone que cada persona en su ámbito de trabajo conozca más sobre la tecnología, las empresas e infraestructuras detrás de los modelos de IA. 

"El ser humano es intrínsicamente irremplazable y la frontera de la capacidades de la IA es que puede cometer errores, y es ahí, donde los humanos tienen que estar al tanto de las falencias y tener su propio criterio para darle comentarios y trabajar con la inteligencia artificial", señala Zavala. 

Sobre los pronósticos de los miles de empleos que se perderán por culpa de la IA, Zavala afirma que los profesionales 'humanos' que aprendan de IA y la hagan parte de su vida, siempre serán útiles en el mundo empresarial.