¿Y si la IA nos gobierna?

Esta semana, Skynet volvió a los grupos de WhatsApp. El 10 de septiembre, Anthropic publicó un informe sobre gente que intentó usar su inteligencia artificial para ciberataques. Dos días después, su cofundador, Dario Amodei, pidió bajarle la velocidad a la industria. Musk y Altman, los que más pisaban el acelerador, ahora también piden bajar la velocidad y, mientras ellos discuten si frenar, a mí me frena un cono. Transito la Ruta Viva todos los días rumbo a Puembo; ahora la arreglan por tramos y mi agenda depende de dónde amanezca ese cono. Waze me desvía y se me estira la hora de llegada y llamo para disculparme por la demora.

Alguien decidió al ojímetro en qué orden se asfaltan cinco tramos. En el tráfico, prefiero pensar en cómo la inteligencia artificial puede domesticar la estupidez natural.

Alexandre Bayen, de Berkeley, estudió estas apps con la teoría de juegos de John Nash: funcionan muy bien de a uno por uno, pero mientras más le hacemos caso a la vez, el atajo se llena y la cola se muda a calles de barrio que nunca estuvieron pensadas para eso. Antes la ruta la marcaban los letreros del plan vial. Ahora la decide una app que no tiene por qué hacerlo: solo ve tu carro y a la ciudad le vale lo mismo que un brócoli.

Es aquí donde quisiera que la IA interviniera para revisar la tarea del que gobierna. Algo así como el VAR. Antes de aprobar un desvío, ver a qué calles del barrio manda la cola y avisar que esas calles tienen escuela. Cruzar el cronograma de la empresa que asfalta con el de la que abre huecos para meter tubería: una comparación que ninguna reunión de coordinación ha logrado bien nunca.

• Cumbayá no fue un plan, fue una autopista

El VAR no juega el partido ni le quita el pito al árbitro. Le muestra la repetición. Después, que pite lo que quiera. Con el que gobierna debería pasar lo mismo: que decida, que cambie de opinión, que bote el proyecto anterior si le da la gana. Pero que no nos venga después con que no había información. Con la IA le será más difícil fingir demencia.

Lo humano viene después, y es lo difícil. Sentarse con el barrio. Decidir cuándo una excepción tiene sentido y cuándo es viveza. Ahí quiero gente avispada en la calle en lugar de expertos en poner sellos.

Ojo, también hay cómo hacerlo pésimo. Ya pasó. Rotterdam le puso un algoritmo encima a la gente que recibía ayuda social y terminó sospechando más de quien hablaba mal el holandés. El VAR revisa contratos y cronogramas y le pone puntaje al responsable por lo que firmó y por cómo le salió.

No me lo estoy inventando. Albania se saltó un par de capítulos y nombró ministra a una inteligencia artificial. Se llama Diella y la metieron donde más fácil se pierde la plata pública: en las contrataciones. El primer ministro la vendió como una máquina que no duerme ni tiene primos contratistas.

• Ciudad sin párpados

Diella lee, compara y recomienda. Pero al final firma una persona, y la responsabilidad todavía tiene nombre y apellido.

O sea: hicieron ministra a la máquina y terminaron inventando el VAR.

Entonces, ¿la máquina de quién es? Estas cosas no flotan en el aire: corren en servidores y en los contratos de alguien. Y en alguna cláusula que casi nadie lee se decide si lo que la máquina aprende de la ciudad se queda en la ciudad o termina arrendado, con renovación automática y letra pequeña.

Que la IA nos gobierne, no. Pero que le respire en la nuca al que decide por dónde va a pasar la ciudad en los próximos veinte años. Activémosla mañana mismo

Una máquina no se cansa, no se va de vacaciones en agosto ni almuerza con nadie. Tampoco va a convertir en santo al que nunca lo fue. Pero sí puede hacerle la vida difícil al vivo, al incompetente y al que tenía el informe sobre el escritorio y lo firmó sin abrirlo.

Y si a alguien le molesta trabajar con la jugada grabada, que se dedique a otra cosa.