El algoritmo de Twitter recorta las fotografías con un sesgo racial. Mediante inteligencia artificial la plataforma escoge los rostros de personas blancas y oculta los rostros de personas negras.
Twitter ha sido blanco de críticas por un algoritmo que posee un sesgo racista. Se trata de una herramienta de inteligencia artificial que recorta las fotos para que no usen demasiado espacio en la pantalla de los usuarios de la red.
¿El problema? El algoritmo muestra lo que considera más importante.
Toni Arcieri, desarrollador informático, publicó dos fotografías donde muestra al expresidente de Estados Unidos, Barack Obama, y al senador y líder republicano, Mitch McConell.
En la primera publicación Arcieri puso al senador primero, seguido de Obama. En la segunda fotografía, invirtió el orden, pero Twitter en ambas ocasiones escogió a Mitch McConell y ocultó el rostro del expresidente.
Arcieri, además, editó algunos elementos de las fotografías para descartar variables como los colores de la vestimenta, pero el resultado fue el mismo.
El experimento del desarrollador informático evidenció que el algoritmo de la red social siempre escoge a las personas blancas sobre las negras para mostrar en el 'feed' de las noticias.
"Twitter es solo un ejemplo más del racismo que se manifiesta a través de los algoritmos de aprendizaje máquina".
Toni Arcieri
Pablo Escandón, coordinador de la Especialización en Comunicación Digital de la Universidad Andina Simón Bolívar (UASB), dice que el problema radica en el "cómo está configurada la herramienta para las decisiones de corte".
El experto explica que el algoritmo cuenta con la información con la que nace la red social "Twitter iba dirigida a un nicho en especial, un 'target' socioeconómico medio alto".
Además, explica que los modelos de inteligencia artificial funcionan a partir de una base de datos que cuenta con la suficiente información para tomar decisiones propias.
La respuesta de Twitter
Al ver que las publicaciones de Arcieri se hicieron virales, la red social respondió mediante un tuit que el algoritmo tiene un problema y que están trabajando para arreglar el sesgo.
We tested for bias before shipping the model & didn't find evidence of racial or gender bias in our testing. But it’s clear that we’ve got more analysis to do. We'll continue to share what we learn, what actions we take, & will open source it so others can review and replicate.
— Twitter Comms (@TwitterComms) September 20, 2020
Además, Twitter anunció el 1 de octubre de 2020 que permitirá a los usuarios editar sus fotos para que encajen perfectamente en sus tweets y dejar de lado el recorte automático.
En el comunicado, la empresa manifestó que se compromete a "seguir los principios de diseño de 'lo que ves es lo que obtienes', es decir, la foto que se ve en el editor del tuit es lo que se verá en la publicación".
Sin embargo, la compañía no fijó una fecha para el lanzamiento de la nueva herramienta.
Los usuarios no perdonan
A partir de la publicación de Toni Arcieri los usuarios de Twitter empezaron a probar si el algoritmo en verdad solo escogía a personas blancas, además, los memes sobre la controversia no se hicieron esperar.
¿Realmente el algoritmo que tiene Twitter es racista? pic.twitter.com/yEqIRQ62P1
— ? ? ? ? . (@Prawlitox) October 1, 2020
No importa dónde esté el hombre blanco: siempre sale el hombre blanco. pic.twitter.com/SvVyAhSWDR
— Jacques Toukhmanian (@JacquesTD) September 23, 2020
Lo último