Su hijo subió un video bailando desnudo y comenzó su calvario

Cuando Google le informó a una madre en Colorado que su cuenta había sido desactivada, ella sintió como si su casa se hubiera incendiado, afirmó. En un instante, perdió acceso a las fotos de su boda, los videos de su hijo de bebé y niño, sus correos electrónicos de los últimos diez años, sus documentos tributarios y todo lo demás que había guardado en el que consideraba el lugar más seguro. No tenía idea por qué.

En agosto, Google se rehusó a volver a examinar la decisión, pues afirmaba que en su cuenta de YouTube había contenido dañino que podría ser ilegal. Le llevó a la mujer semanas descubrir lo que había sucedido: su hijo de 9 años terminó por confesarle que había usado un celular viejo de ella para subir un video corto a la sección de YouTube Shorts en el que aparecía bailando desnudo.

Monitoreo... y apelación

Google tiene un sistema complejo, basado en un algoritmo de monitoreo y la revisión de un equipo humano, para prevenir que se compartan y almacenen imágenes de explotación infantil en sus plataformas. Si una fotografía o un video en los servidores de la empresa se considera material sexual explícito que retrata a un menor de edad, Google desactiva la cuenta del usuario en todos los servicios de Google y reporta el contenido a una organización sin fines de lucro que trabaja con las autoridades. Los usuarios tienen la oportunidad de apelar la medida de Google, pero antes no tenían una oportunidad real para explicar el contexto de una fotografía o un video de un niño desnudo.

Ahora, tras reportajes de The New York Times, Google ya cambió su proceso de apelación, pues les da a los usuarios acusados del crimen atroz de explotación sexual infantil la capacidad de demostrar su inocencia. En todo caso, el contenido que se considere de explotación se eliminará de Google y se denunciará, pero los usuarios podrán explicar por qué estaba en su cuenta, por ejemplo, podrían aclarar que fue una broma mal pensada de su hijo.

Susan Jasper, la directora de operaciones de confianza y seguridad en Google, comunicó en una publicación de blog que la empresa “proporcionará razones más detalladas para justificar la suspensión de cuentas”. Agregó: “También actualizaremos nuestro proceso de apelaciones a fin de permitirles a los usuarios presentar aún más contexto sobre su cuenta, incluyendo más información y documentación de profesionales independientes relevantes o agencias de seguridad para ayudarnos a comprender el contenido detectado en la cuenta”.

En los últimos meses, en artículos sobre el poder que las empresas tecnológicas tienen sobre las partes más íntimas de la vida de sus usuarios, el Times le reveló a Google varios ejemplos en los que su proceso previo parecía haber sido errado.

No es la única

En dos casos individuales, dos padres tomaron fotos de sus hijos pequeños desnudos para facilitar un tratamiento médico. En automático, el algoritmo identificó y marcó las imágenes y luego, moderadores humanos concluyeron que contravenían las normas de Google. La policía dictaminó que los padres no habían cometido ningún delito, pero la empresa eliminó sus cuentas de todos modos.

Los padres, uno en California y el otro en Texas, se toparon con un muro en el proceso de apelación que Google solía manejar: en ningún momento pudieron mostrar los expedientes médicos, las comunicaciones con sus doctores ni los documentos de la policía que los absolvían de todo acto indebido. Al final, el padre que vivía en San Francisco recuperó el equivalente a seis meses de sus datos guardados en Google, pero en una USB del Departamento de Policía, que la había solicitado a la empresa con una orden judicial.

“Cuando encontramos material relacionado con el abuso sexual infantil en nuestras plataformas, lo eliminamos y suspendemos la cuenta responsable”, declaró en un comunicado un portavoz de Google, Matt Bryant. “Nos tomamos muy en serio las repercusiones de suspender una cuenta y nuestros equipos trabajan de manera constante para minimizar el riesgo de una suspensión incorrecta”.

Las empresas tecnológicas que ofrecen servicios gratuitos a los consumidores tienen una pésima reputación en materia de atención al cliente. Google tiene miles de millones de usuarios. El año pasado, desactivó más de 270.000 cuentas por infringir sus políticas contra el material de abuso sexual infantil. En la primera mitad de este año, desactivó más que en todo 2021.

“No sabemos qué porcentaje de esas fueron falsos positivos”, dijo Kate Klonick, profesora asociada de la Facultad de Derecho de la Universidad St. John, quien estudia cuestiones de gobernanza en internet. Incluso el uno por ciento derivaría en cientos de apelaciones al mes, afirmó. La académica predijo que Google tendría que ampliar su equipo de confianza y seguridad para gestionar estas disputas.

“Al parecer, Google está tomando la decisión correcta”, comentó Klonick, “de examinar y resolver los falsos positivos, pero es una propuesta costosa”.

Evelyn Douek, profesora adjunta en la Facultad de Derecho de la Universidad de Stanford, mencionó que quisiera que Google diera más detalles sobre cómo va a funcionar el nuevo proceso de apelación.

“El mero hecho de establecer un proceso no soluciona todo. Los problemas surgen en los detalles”, advirtió. “¿La nueva revisión es relevante? ¿Cuál es su tiempo de respuesta?”.

Pasaron cuatro meses antes de que la madre en Colorado, quien pidió que no se usara su nombre para proteger la privacidad de su hijo, logró recuperar su cuenta. Google la reactivó luego de que el Times le hizo saber a la empresa del caso.

“Comprendemos lo frustrante que es perder el acceso a una cuenta de Google, y los datos que contiene, debido a una confusión de circunstancias”, dijo Bryant en una declaración. “Estos casos son sumamente inusuales, pero estamos trabajando para mejorar el proceso de apelación cuando las personas nos hacen preguntas sobre sus cuentas o consideran que nuestra decisión no fue la correcta”.

Google no le avisó a la mujer que su cuenta estaba activa de nuevo. Diez días después de la reactivación, se enteró de la decisión por un reportero del Times.

Cuando inició sesión, vio que toda su información estaba de vuelta, excepto por el video que hizo su hijo. Apareció un mensaje de YouTube, con una ilustración de un árbitro soplando un silbato, que decía que su contenido había infringido los lineamientos de la comunidad. “Como es la primera vez, esta es solo una advertencia”, rezaba el mensaje.

“Ojalá hubieran hecho esto desde el principio”, expresó. “Me habría ahorrado meses de llanto”.

© 2022 The New York Times Company

TAMBIÉN TE PUEDE INTERESAR | EN VIDEO

Google X crea un robot para contar fresas