Los errores ridículos de Facebook y sus consecuencias

·4  min de lectura
Facebook, que se ha rebautizado como Meta, y otras redes sociales deben tomar decisiones difíciles para equilibrar el apoyo a la libertad de expresión con la exclusión de material no deseado, como imágenes de abusos sexuales a menores, incitaciones a la violencia y estafas financieras. (Irene Suosalo/The New York Times)
Facebook, que se ha rebautizado como Meta, y otras redes sociales deben tomar decisiones difíciles para equilibrar el apoyo a la libertad de expresión con la exclusión de material no deseado, como imágenes de abusos sexuales a menores, incitaciones a la violencia y estafas financieras. (Irene Suosalo/The New York Times)

En un grupo de Facebook para jardineros, los sistemas automatizados de la red social a veces marcan las discusiones sobre una herramienta común del patio trasero como charla sexual inapropiada.

Hace años, Facebook congeló las cuentas de algunos nativoamericanos porque sus computadoras creyeron de manera errónea que nombres como Lance Browneyes eran falsos.

La compañía rechazó en repetidas ocasiones anuncios de empresas que venden ropa para personas con discapacidad, sobre todo por una confusión en la que se mezclaban los productos con promociones médicas, las cuales van en contra de sus normas.

Facebook, que se ha rebautizado como Meta, y otras redes sociales deben tomar decisiones difíciles para equilibrar el apoyo a la libertad de expresión y mantener fuera el material no deseado, como las imágenes de abuso sexual infantil, las incitaciones a la violencia y las estafas financieras. Sin embargo, eso no ocurrió en los ejemplos anteriores. Fueron errores cometidos por una computadora que no pudo manejar los matices.

Errores que tienen consecuencias para personas y empresas

Las redes sociales son espacios públicos esenciales demasiado grandes y rápidos para que cualquiera pueda gestionarlos con eficacia. Los errores ocurren.

Estos errores poco glamurosos no son tan trascendentales como decidir si Facebook debe expulsar al expresidente de Estados Unidos de su sitio web. No obstante, la gente común, las empresas y los grupos que sirven al interés público, como las organizaciones de noticias, sufren cuando las redes sociales suspenden sus cuentas y no pueden encontrar ayuda ni averiguar qué hicieron mal.

Eso no ocurre a menudo, pero un pequeño porcentaje de errores del tamaño de Facebook se acumulan. El Wall Street Journal calculó que Facebook podría cometer casi 200.000 errores al día.

También te puede interesar:

Facebook comete errores que se podrían calificar de poco glamurosos constantemente. Foto: Rasit Aydogan / Anadolu Agency
Facebook comete errores que se podrían calificar de poco glamurosos constantemente. Foto: Rasit Aydogan / Anadolu Agency

Personas que investigan las redes sociales me dijeron que Facebook —y sus pares, aunque aquí me concentraré en Facebook— podría hacer mucho más para cometer menos errores y mitigar el daño cuando se equivoca.

Los errores también plantean una cuestión más grande: ¿nos parece bien que las empresas sean tan esenciales que, cuando no corrigen los errores, no hay mucho que podamos hacer?

Los críticos de la empresa y el Consejo Asesor de Contenido de Facebook, que es semindependiente, han dicho en repetidas ocasiones que Facebook tiene que facilitar la comprensión de las normas que han infringido y la apelación de las decisiones a los usuarios cuyas publicaciones se han eliminado o cuyas cuentas se han inhabilitado. Facebook ha hecho algo de esto, pero no lo suficiente.

¿Están haciendo lo suficiente?

Los investigadores también quieren indagar en los datos de Facebook para analizar su toma de decisiones y la frecuencia con la que se equivoca. La empresa suele oponerse a esta idea por considerarla una invasión a la privacidad de sus usuarios.

Facebook ha dicho que está trabajando para ser más transparente y que gasta miles de millones de dólares en sistemas informáticos y personas para supervisar las comunicaciones en sus aplicaciones. La gente no estará de acuerdo con sus decisiones sobre las publicaciones pase lo que pase.

Sin embargo, sus críticos vuelven a decir que no ha hecho lo suficiente.

“Se trata de problemas legítimamente difíciles y yo no querría hacer estas concesiones y tomar esas decisiones”, señaló Evelyn Douek, investigadora principal del Knight First Amendment Institute de la Universidad de Columbia. “Pero no creo que se haya probado todo aún o se hayan invertido suficientes recursos para decir que tenemos el número óptimo de errores”.

La mayoría de las empresas que cometen errores se enfrentan a graves consecuencias. Facebook rara vez lo hace. Ryan Calo, profesor de la Facultad de Derecho de la Universidad de Washington, hizo la comparación entre Facebook y la demolición de edificios.

Cuando las empresas derriban edificios, los escombros o las vibraciones pueden dañar la propiedad o incluso herir a las personas. Calo me dijo que, debido a los riesgos inherentes, las leyes estadounidenses exigen a las empresas de demolición un alto nivel de responsabilidad. Las empresas deben tomar precauciones de seguridad y posiblemente cubrir cualquier daño. Lo ideal es que esas posibles consecuencias les hagan ser más cuidadosas.

Pero Calo dijo que las leyes que rigen la responsabilidad en internet no hacen lo suficiente para responsabilizar igualmente a las empresas del daño que puede causar la información o restringirla.

“Es hora de dejar de fingir que esto es tan diferente de otros tipos de daños sociales”, concluyó Calo.

También te puede interesar | VIDEO: La metamorfosis de Facebook

© 2022 The New York Times Company

Nuestro objetivo es crear un lugar seguro y atractivo para que los usuarios se conecten en relación con sus intereses. Para mejorar la experiencia de nuestra comunidad, suspenderemos temporalmente los comentarios en los artículos.