Anuncios
Elecciones México 2024:

Cobertura Especial | LO ÚLTIMO

¿Racismo? Twitter explica por qué su algoritmo elige a gente blanca en recortes de fotos

¿Racismo? Twitter explica por qué su algoritmo elige a gente blanca en recortes de fotos

El 2020 será recordado por muchas cosas, pero una de las más importantes es la lucha contra el racismo que ha detonado manifestaciones en todo el mundo.

Pero otro frente de esta pelea es el tecnológico, donde ahora usuarios de Twitter denunciaron que la red social también tiene un comportamiento racista.

Algunas personas se dieron cuenta que el algoritmo de recorte de fotos de Twitter siempre le da preferencia a las personas blancas sobre las negras.

Es decir, la red social automáticamente elige mostrar a gente blanca cuando una imagen es demasiado grande como para enseñarla completa.

¿Cómo sucedió esto?

La herramienta funciona con inteligencia artificial, la cual está programada para elegir automáticamente la sección más importante de una foto.

Pero hay un gran problema causado por eso: si pones lado a lado a una persona blanca con una negra o morena, siempre escogerá a la blanca.

Y esto no sólo sucede con personas reales, ya que el algoritmo también hace lo mismo con caricaturas y hasta perros.

Tras las críticas de muchos usuarios que experimentaron con diferentes imágenes, Twitter sacó una publicación en su blog oficial donde se disculpó por su herramienta.

Dantley Davis, el jefe de diseño e investigación en Twitter, explicó en el blog que la compañía había probado esta herramienta antes de sacarla y en ese entonces no encontraron ningún problema con las preferencias que tomara.

Sin embargo, señaló que al ver esta situación ahora, Twitter falló en probar aún más esta función.

“Nuestro equipo probó el sesgo antes de enviar el modelo y no encontró evidencia de sesgo racial o de género en nuestras pruebas. Pero a revisar estos ejemplos queda claro que tenemos más análisis por hacer”, mencionó Davis.