Experimento demostró sesgo racial en algoritmo de Twitter: Compañía se disculpó y harán más pruebas

Un algoritmo de Twitter ha despertado una polémica en la misma red social y ha derivado en que la compañía haya pedido disculpas por esto.

Todo comenzó con un sencillo experimento en la plataforma que evidenciaba una preferencia racial por, al parecer, visibilizar los rostros de personas o incluso dibujos animados de piel blanca o clara.

Lee también: De “Watchmen” a Zendaya: La lista completa de ganadores de los Emmy 2020

Una portavoz de Twitter, llamada Liz Kelley, se refirió a esta situación y señaló “gracias por levantar esto. Testeamos las preferencias del modelo antes de lanzarlo y no encontramos evidencias de preferencia racial o de género en nuestras pruebas, pero claramente necesitamos hacer más análisis. Abriremos nuestros trabajo para que otros puedan comentarlo y replicarlo“.

thanks to everyone who raised this. we tested for bias before shipping the model and didn't find evidence of racial or gender bias in our testing, but it’s clear that we’ve got more analysis to do. we'll open source our work so others can review and replicate. https://t.co/E6sZV3xboH

— liz kelley (@lizkelley) September 20, 2020

¿Y en qué consistía el experimento? Cuando se publica un tuit con una imagen más grande que la permitida en la previsualización, la plataforma, o mejor dicho el algoritmo, la recorta para visibilizar parte de la foto o gráfica.

Entonces, usuarios armaron una foto con dos caras, la del ex presidente Barack Obama y el senador Mitch McConnell. En un ejemplo, ubican primero el rostro del otrora mandatario y en el segundo de último. En ambos casos, Twitter destaca el rostro del republicano.

Trying a horrible experiment…

Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia

— Tony "Abolish ICE" Arcieri 🦀🌹 (@bascule) September 19, 2020

Algo que llamó poderosamente la atención, por lo que se hicieron más pruebas. Otros usuarios probaron con personajes de ficción de Los Simpson, Lenny y Carl. En ambos casos, es Lenny el destacado.

Otros lo hicieron con dos fotografías de perros, uno de pelaje blanco y otro negro. Nuevamente el más claro fue el visibilizado.

I tried it with dogs. Let's see. pic.twitter.com/xktmrNPtid

— 🅜🅐🅡🅚 🍿 (@MarkEMarkAU) September 20, 2020

De ahí en más, los experimentos empezaron a probar con otras personas y a jugar con otros elementos, como el color de la corbata y hasta editaron las imágenes para hacer que los políticos estadounidenses sonrieran.

perhaps the smile too? pic.twitter.com/8rO1NEEnGb

— سعد (@BySaadGhamdi) September 20, 2020

https://twitter.com/DrMalo/status/1308052430077202435?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1308052430077202435%7Ctwgr%5Eshare_3&ref_url=https%3A%2F%2Fwww.latercera.com%2Fmouse%2Ftwitter-se-disculpo-por-su-algoritmo-que-recorta-imagenes-con-un-sesgo-racial%2F

The ultimate twitter AI bias meme crossover? pic.twitter.com/CYFWp5YrGp

— Daniel Rourke 🙃 (@therourke) September 20, 2020