Qué es el Grokking, la técnica maliciosa que convierte a Grok en un chatbot de estafas

Los populares chatbots de inteligencia artificial (IA) generativa como Grok o ChatGTP no siempre son tan inteligentes, y ahora son engañados por cibercriminales 'humanos', que han encontrado la forma de inyectar en ellos enlaces maliciosos para estafar a los usuarios. 

Demos la bienvenida al Grokking, una nueva técnica de los hackers que cada vez se perfeccionan, y muestran que ni el aplicativo más 'perfecto' de la IA generativa es impenetrable. 

• OpenAI presenta ChatGPT Atlas, un navegador con IA para desafiar a Google 

¿En qué consiste el Grokking?

• Básicamente, los hackers engañan al chatbot Grok para que difunda links de phishing en su cuenta de X, señala una investigación de la firma de ciberseguridad ESET Latinoamérica. 
• En el Grokking, los cibercriminales utilizan técnicas de ingeniería social, pero aplicadas al chatbot, como si se tratara de un correo electrónico falso enviado a un 'ser humano'. 

¿Cómo funciona? 

• Los hackers eluden la prohibición de X de incluir enlaces en los mensajes promocionados, mediante la publicación de videos de clickbait, como videos de estrellas famosos, la comentada infidelidad de alguna estrella, y hasta material erótico. 
• Luego, son capaces de incrustar su enlace malicioso en el pequeño campo 'from' debajo del video. 
• Los actores maliciosos preguntan a Grok de dónde procede el video, el chatbot lee el mensaje, detecta el pequeño enlace y lo amplifica en su respuesta.
• Con esto, le dan una falsa sensación de legitimidad, al ser replicado por la misma cuenta verificada del chatbot.
• A partir de ahí, otros usuarios dan clic al video, y por lo tanto, al enlace, dando 'vida' al phishing. Ya en este punto, los hackers pueden tomar posesión de las cuentas del internauta o instalar un código malicioso. 

¿Por qué es grave? 

Lo grave del 'Grokking' advierte ESET es no es solo un problema de Grok, porque la misma técnica se puede aplicar a cualquier otro chatbot o herramienta de IA generativa. 

"Esto pone de relieve el ingenio de los actores de las amenazas para encontrar la manera de eludir los mecanismos de seguridad", dice la firma. 

Y también alerta sobre los riesgos de los usuarios de confiar en los resultados de la IA y dar clic en videos que no sabemos su procedencia.