En sus Marcas Listos Fuego
Grok y sus animalitos
PhD en Derecho Penal; máster en Creación Literaria; máster en Argumentación Jurídica. Abogado litigante, escritor y catedrático universitario.
Actualizada:
Nunca me imaginé que existiría la necesidad de explicarle a personas alfabetizadas, con educación formal y con criterio propio, cómo funciona GROK.
Es que me ha causado estupor ver cómo tantas mentes pensantes hallan en las respuestas de GROK la panacea, la verdad irrefutable, las respuestas a todas sus dudas.
De hecho, antes de escribir esta columna leí al menos 20 respuestas de GROK, que fueron celebradas con serpentinas por personas que creía que habían superado el bachillerato, que son o completamente falsas o absolutamente erradas.
Por eso hoy les quiero contar el punto ciego de GROK y la razón por la que ésta herramienta de IA incorporada a X es sólo una fuente de información pública, pero una fuente de información con un gigantesco margen de error.
Como toda inteligencia artificial generativa moderna, GROK se alimenta exclusivamente de información pública: lo que está en internet, en bases de datos abiertas, en medios de comunicación, redes sociales, blogs escritos por cualquier loser, etc.
Su entrenamiento se basa en procesar grandes volúmenes de texto disponibles públicamente y, aunque pueda parecer objetivo, su conocimiento está directamente condicionado por lo que la sociedad ha decidido hacer visible.
Esto significa que GROK no tiene acceso a documentos reservados, investigaciones penales confidenciales (como lo son todas), actas privadas, informes no divulgados ni pruebas que aún no han sido publicadas en ninguna plataforma digital.
Si una persona ha sido acusada de un delito, pero existe evidencia exculpatoria en un expediente fiscal que no ha sido filtrado o publicado, GROK no la verá, y por tanto, no podrá integrarla en su análisis.
Además, hay un componente que agrava este límite: la carga emocional y narrativa del contenido disponible. GROK da la misma validez a datos expuestos en un blog privado de un anal-ista donnadie como a fuentes de información verificadas.
Internet no es un espacio neutral. Las publicaciones que se vuelven virales, que se posicionan en los buscadores y que dominan la conversación digital están marcadas por intenciones, emociones, intereses políticos o económicos.
La IA interpreta estas fuentes como insumos válidos sin distinguir necesariamente entre una acusación fundada y una difamación bien posicionada. Si aún no se dan cuenta de esto, ya es muy tarde para ustedes.
Por eso, cuando se le pregunta si un político es corrupto o si tiene vínculos con el narcotráfico, o si un imputado es culpable de tal o cual delito, GROK puede ofrecer una respuesta aparentemente razonada, basada en lo que ha “leído”, pero esa lectura está sesgada por la disponibilidad pública de ciertos relatos y por la ausencia de otros.
Pues sí, los sesgos no son solo un fenómeno neuronal exclusivo del cerebro humano, sino un error de procesamiento inherente de la Inteligencia Artificial.
Esto se agrava cuando comprendemos que, lo que se publica en redes y se sube al internet rara vez es real.
El resultado es una paradoja: cuanto más expuesto está alguien en internet, más posibilidad hay de que GROK genere un perfil detallado de esa persona, pero no necesariamente más preciso, porque la visibilidad no equivale a la verdad, y la IA no distingue entre hechos comprobados y opiniones dominantes.
GROK no miente, pero tampoco tiene la capacidad de exponer la verdad. El problema no está en que GROK responda, sino en que lo haga desde una superficie de datos incompleta, muchas veces distorsionada, y revestida de una autoridad que simula certeza.
Y sí, la inteligencia artificial es una herramienta maravillosa que sin duda marca un cambio de era, pero para que esa herramienta sea aprovechada al máximo y en servicio de la verdad, urge que quienes la usan al menos tengan un cerebro con inteligencia humana.
Así que no sean animalitos. Ayúdense a que la estupidez natural no permita que las medias verdades conquisten el mundo.
Como bien dijo Antonio Machado: ¿Dijiste media verdad? Dirán que mientes dos veces si dices la otra mitad.