La regulación de la Inteligencia Artificial
Asesor empresarial en estrategia y finanzas corporativas. MBA de la Escuela de Negocios Darden de la Universidad de Virginia. Exasesor McKinsey and Company y finanzas en JPM, CLSA, ABN-AMRO y Valpacífico. Exejecutivo senior Progressive Insurance e IPG.
Actualizada:
Virgilio, el historiador de la Roma Antigua, nos decía: "La gota horada la piedra, no por su fuerza, sino por su constancia".
Asistía a la Feria Expo Industria 2024 en Guayaquil, en la cual dos expositores tocaron el tema de la Inteligencia Artificial (IA) y un perro robot circulaba entre los corredores atrayendo la atención de los visitantes. Aunque ya la versión autónoma existe.
A principios del milenio se escuchaba en el Valle de Silicio la frase "si el servicio es gratuito, entonces tú eres el producto" lo que implica que cuando un producto o servicio se ofrece de forma gratuita como muchos en internet, los propios usuarios se convierten en la mercancía.
Esto significa que el proveedor del servicio recopila, analiza y utiliza sus datos personales y su comportamiento con fines publicitarios u otros.
No soy ludita, más bien lo contrario orgulloso de ser ingeniero de sistemas. Recuerdo leer en la era del capitalismo de vigilancia en la cual la profesora de Harvard, Shoshana Zuboff, realizaba un análisis crítico de la revolución digital donde los datos personales se extraen y monetizan sin consentimiento. Examinando las implicaciones de dicho entorno para la democracia, la autonomía individual, y la experiencia humana.
Al mismo tiempo, creo que muchas preguntas sobre la aplicación de tecnologías como la IA y la vigilancia dependerá de la aceptabilidad para cada cultura. Por ejemplo, la vigilancia continua que se hace en el este de Asia es “quizás” inaceptable para países occidentales. Al final, el mundo no es tan homogéneo como pensábamos hace pocas décadas.
Y seguro en los próximos años nos haremos estas preguntas en Latinoamérica. No me cree, mire a su teléfono inteligente, a su televisor 4K, a su Alexa, etc.
El uso de la inteligencia artificial (IA) en la Unión Europea (UE) estará regulado por la Ley de IA, la primera ley integral de IA del mundo.
En abril de 2021, la Comisión Europea propuso el primer marco regulatorio de la UE para la IA. Dice que los sistemas de IA que pueden utilizarse en diferentes aplicaciones se analizan y clasifican según el riesgo que suponen para los usuarios. Los diferentes niveles de riesgo significarán más o menos regulación.
Se establecen sistemas de IA cuyo riesgo es inaceptable, entre ellos por ejemplo:
- Manipulación cognitiva del comportamiento de personas o grupos vulnerables específicos: por ejemplo, juguetes activados por voz que fomentan comportamientos peligrosos en los niños.
- Clasificación de personas en función de su comportamiento, estatus socioeconómico o características personales.
- Identificación biométrica y categorización de personas; por ejemplo, sistemas de identificación biométrica en tiempo real y a distancia, como el reconocimiento facial.
Claro está que se pueden permitir algunas excepciones con fines de aplicación de la ley.
Los sistemas de identificación biométrica remota “en tiempo real” se permitirán en un número limitado de casos graves, mientras que los sistemas de identificación biométrica remota “posteriores”, cuando la identificación se produce después de un retraso significativo, podrán procesar delitos graves y sólo después de la aprobación del tribunal.
El Parlamento Europeo adoptó la Ley de Inteligencia Artificial en marzo de 2024.
"Los tiempos cambian, los deseos cambian, el ser cambia, la confianza cambia; el mundo entero está hecho de cambios" nos dijo el poeta portugués Luis de Camões.