Ciberseguridad en tiempos de IA: expertos alertan que es mejor desconfiar de los chatbots

La carrera de la Inteligencia Artificial no solamente radica en los avances que empresas como Google, OpenAI o DeepSeek presumen, también se hace presente en la cantidad de personas que usan los chatbots, algo que puede traernos varios problemas de ciberseguridad.

Desde la cantidad y el tipo de información que se entrega a estos chatbots (que no hay manera de conocer cómo funcionan en casi la totalidad de los casos), hasta escenarios en los que un usuario común puede, por accidente o insistencia, convertirse en un 'hacker', la era de la IA viene acompañada de nuevas problemáticas. 

PRIMICIAS pudo conversar con dos expertos en el marco del ESET Security Day de 2025, donde un dato clave abrió la serie de exposiciones: en 2024 más del 40% de contenido generado en Internet era artificial.

Mario Micucci, investigador de seguridad de ESET para Latinoamérica, y Emiliano Piscitelli, CEO y fundador de BeyGoo, expusieron sus principales preocupaciones sobre la ciberseguridad en tiempos del boom de la IA.

Cajas negras y datos sensibles filtrados

"Tenemos que entender que hoy todas las tecnologías están siendo enlatadas, es decir, tenemos empresas que desarrollan sus propios sistemas y no sabes qué pasa detrás de estos sistemas", comenta Mario Micucci al describir la naturaleza de la inteligencia artificial.

"Es una caja negra. Ni más, ni menos", dice este investigador argentino al hacer referencia a un término que se usa para señalar a un dispositivo que el usuario no sabe cómo funciona por dentro, pero aún así lo usa.

Esta suerte de caja negra, que prácticamente nadie puede observar, puede facilitar el acceso a información confidencial con poco esfuerzo.

"Gente de Samsung empezó a utilizar ChatGPT para trabajar con números de serie de dispositivos. La información era confidencial, pero todo lo que va ahí después es parte de la comunidad. Bueno, el asunto es que terceros pudieron acceder a ese tipo de información confidencial"

Mario Micucci

Pero ¿cómo pudo pasar eso? "No hace falta demasiada sofisticación. Simplemente basta con operar con los prompts", es decir, ir probando hasta encontrar la instrucción que permita acceder a información sensible que alguien en algún momento haya subido a los chatbots de IA.

'Hacker' por inteligencia artificial

Otro experto, Emiliano Piscitelli, hace una revelación aún más preocupante.

El CEO de BeyGoo habla sobre los 'infostealers', una especie de software maliciosos que generalmente actúan al momento de instalar un crack de un videojuego o un programa en la computadora. Su único propósito: robar información.

"Usuarios, contraseñas, tarjetas de crédito, archivos en el escritorio, archivos en descarga. Todo lo que esté en la computadora sin que te des cuenta", explica Piscitelli. 

¿El 'plot twist'? La IA puede ser usada para crear este tipo de programas. "Quizá no ChatGPT...aunque si por ahí le encontrás la vuelta, algo puede ser", dice Piscitelli.

"Hoy, por lo menos en lo que en Latinoamérica, yo me animaría a decir que no hay tanto uso de IA para ciberdelincuencia, como si lo hay, por ejemplo en Europa, en Norteamérica, pero no significa que no llegue". 

Emiliano Piscitelli, CEO y fundador de BeyGoo

Este experto señala que el phishing ha evolucionado tanto que a esta altura no solo se roban y venden cuentas de redes sociales, sino también algoritmos o modelos de IA.

Piscitelli reconoce que los chatbots pueden ayudar a la productividad, pero señala que si se los usa en entornos laborales, es mejor recurrir a los provistos por la empresa.