Los resultados de un concurso informático revelaron nuevos detalles sobre los algoritmos que utiliza Twitter para recortar las fotografías. Los mismos que ya han estado en el foco de la polémica.

Previamente se constató que sus sistemas favorecían a los rostros de mujeres y personas blancas al generar el recorte automático de las fotos que se suben a su plataforma.

De acuerdo a Wired, ahora se identificó que el algoritmo también discrimina por edad y peso. También favorece al texto en inglés y otros idiomas occidentales.

Un estudiante suizo llamado Bogdan Kulynych constató esta situación. Su hallazgo se logró luego de que utilizara técnicas de deepfake para generar automáticamente diferentes rostros. Luego utilizó el algoritmo para cortar imágenes para revisar cómo respondía. Y los resultados mostraban claramente la discriminación.

De acuerdo a los jueces del concurso, los sesgos encontrados reflejan a los sesgos de los humanos que contribuyeron con los datos utilizados para entrenar al modelo algorítmico que corta las imágenes.

El concurso en cuestión se realizó en Defcon, una conferencia de seguridad informática realizada la semana pasada en Las Vegas. En mayo pasado, Twitter informó que dejaría de usar a ese algoritmo de inteligencia artificial.