Yahoo Noticias La vigilancia con alta tecnología amplifica el sesgo policial y la extralimitación
El vídeo de la policía con equipo antidisturbios chocando contra los manifestantes desarmados a raíz del asesinato de George Floyd a manos del oficial de policía de Minneapolis, Derek Chauvin, ha circulado por las redes sociales. Sin embargo, la vigilancia policial de los manifestantes ha permanecido en gran medida fuera del ojo público.
Las organizaciones policiales a nivel local, estatal y federal utilizan una vasta gama de tecnologías de vigilancia para identificar y rastrear a los manifestantes, desde el reconocimiento facial hasta los drones de uso militar.
El uso policial de estas técnicas de vigilancia al estilo propio de la seguridad nacional, justificadas como técnicas rentables que evitan los prejuicios y errores humanos, ha aumentado junto con la creciente militarización de la aplicación de la ley. Estudios exhaustivos, incluido el mío, han demostrado que estas capacidades de vigilancia expansivas y poderosas han exacerbado y no reducido el sesgo, la extralimitación y el abuso policial, y representan una amenaza creciente para las libertades civiles.
Los esfuerzos por reformar la policía se centran cada vez más en el uso de tecnologías de vigilancia por parte de las organizaciones policiales. Sin embargo, a raíz de los disturbios actuales IBM, Amazon y Microsoft han frenado el uso policial de la tecnología de reconocimiento facial de las empresas. Además, los proyectos de reforma policial presentados por los demócratas en la Cámara de Representantes de Estados Unidos exigen regular el uso policial de los sistemas de reconocimiento facial.
Una década de vigilancia de Big Data
No siempre hemos vivido en un mundo lleno de cámaras policiales, sensores inteligentes y análisis predictivos. La recesión y la ira impulsaron ese incremento inicial en el uso de las tecnologías de vigilancia de tipo Big Data. En 2009, ante los recortes presupuestarios federales, estatales y locales causados por la Gran Recesión, los departamentos de policía comenzaron a buscar alternativas para hacer más con menos. Las compañías tecnológicas se apresuraron a llenar esos vacíos ofreciéndoles nuevas formas de vigilancia basadas en datos como modelos de eficiencia y reducción de costes.
Luego, en 2014, el asesinato policial de Michael Brown en Ferguson, Misuri, trastocó las relaciones policiales y comunitarias. Los asesinatos de Michael Brown, Eric Garner, Philando Castile, Tamir Rice, Walter Scott, Sandra Bland, Freddie Gray y George Floyd provocaron protestas en todo el país y demandas de justicia racial y reforma policial. Cuando la indignación de la comunidad amenazó con deslegitimar la estructura de poder policial que había, se generó una crisis en el sistema de vigilancia.
En respuesta a la doble amenaza que representaban las presiones por los costes y las críticas de la comunidad, los departamentos de policía abrazaron aún más a las startups tecnológicas que vendían eficiencia basada en Big Data con la esperanza de que algo “basado en datos” les permitiera a las comunidades superar los problemas demasiado humanos de la policía. Las capacidades de análisis predictivo y cámaras corporales se vendieron como soluciones objetivas al sesgo racial. En gran medida esa estrategia de relaciones públicas funcionó, lo que les permitió a las fuerzas del orden adoptar la vigilancia predictiva y reforzar la vigilancia digital.
Hoy, en medio de un renovado escándalo contra el racismo estructural y la brutalidad policial, y a la sombra de una recesión económica aún más profunda, las organizaciones policiales vuelven a verse tentadas a adoptar una solución basada en la tecnología para afrontar problemas sociales más profundos. Es probable que los jefes de policía quieran pasar página de los niveles actuales de ira y desconfianza de la comunidad.
Los peligros de la vigilancia con alta tecnología
En vez de repetir los errores de los últimos 12 años, las comunidades tienen la oportunidad de rechazar la expansión de la vigilancia mediante Big Data. Los peligros solo han aumentado y la experiencia ha dejado claros los daños que puede provocar.
Esas pequeñas empresas de nueva creación que inicialmente se lanzaron al negocio policial han sido reemplazadas por grandes compañías tecnológicas con grandes bolsillos y ambiciones aún mayores.
Axon aprovechó las demandas de responsabilidad policial después de las protestas en Ferguson y Baltimore para convertirse en una compañía multimillonaria que brinda servicios digitales para las cámaras corporales que usa la policía. Amazon ha estado expandiendo sus alianzas con cientos de departamentos de policía a través de sus cámaras Ring y la aplicación Neighbors. Otras compañías como BriefCam, Palantir y Shotspotter ofrecen una gran cantidad de opciones de análisis de vídeo, análisis de redes sociales y otras tecnologías de sensores porque tienen la capacidad de vender tecnología a bajo costo y a corto plazo, con la esperanza de obtener una ventaja de mercado a largo plazo.
La tecnología de hoy es más poderosa. Los modelos algorítmicos creados hace una década son un pálido reflejo en comparación con las capacidades de aprendizaje automático que existen en la actualidad. Las transmisiones de las videocámaras se han digitalizado y aumentado con capacidades analíticas y de reconocimiento facial, lo cual ha convertido la vigilancia estática en una máquina del tiempo virtual para encontrar patrones en las multitudes. A la trampa de los datos se suman los smartphones, las casas domóticas y los vehículos inteligentes, que ahora le permiten a la policía descubrir los rastros digitales de las personas con relativa facilidad.
La tecnología está más interconectada. Uno de los factores que limitó de manera natural la tecnología de vigilancia por Big Data de primera generación fue el hecho de que permaneció en secreto. Las bases de datos no podían comunicarse entre sí. Los datos no se podían compartir fácilmente. Ese factor limitante se ha ido reduciendo a medida que se han desarrollado más sistemas de datos añadidos tanto por el gobierno como por proveedores privados.
Sin embargo, la promesa de tener una tecnología objetiva e imparcial no se ha cumplido. El sesgo racial en la vigilancia no se solucionó encendiendo una cámara. En cambio, la tecnología ha creado nuevos problemas, como destacar la faltad e responsabilidad en casos de violencia policial de alto perfil.
Lecciones para frenar el espionaje policial
Los daños de la vigilancia policial de Big Data han sido expuestos en varias ocasiones. Los programas que intentaron predecir el comportamiento de las personas en Chicago y Los Ángeles se cerraron después de que ciertas auditorías devastadoras constataran su impacto discriminatorio y su fracaso práctico. Los sistemas predictivos basados en el lugar se han cerrado en Los Ángeles y otras ciudades que inicialmente habían adoptado esa tecnología. Los escándalos que involucran el reconocimiento facial, la tecnología de análisis de redes sociales y los sensores de vigilancia a gran escala sirven como una advertencia de que la tecnología no puede solucionar los problemas más profundos de raza, poder y privacidad que se encuentran en el corazón de la policía moderna.
La lección de la primera era de la vigilancia por Big Data es que las cuestiones de raza, transparencia y derechos constitucionales deben ocupar un lugar privilegiado en el diseño, la regulación y el uso de estas tecnologías. Todos los errores anidan en la imposibilidad para ver cómo la tecnología de vigilancia se ajusta al contexto del poder policial moderno, un contexto que incluye problemas de larga data como el racismo y el control social. Cada solución apunta a abordar ese desequilibrio de poder en la fase inicial a través de la supervisión local, el compromiso con la comunidad y la ley federal; no después de que se haya adoptado la tecnología.
Los debates sobre la eliminación de fondos, la desmilitarización y la reinvención de las prácticas policiales existentes deben incluir una discusión sobre la vigilancia policial. Hay una década de pasos en falso de la cual aprender y una era de desafíos de privacidad y justicia racial por delante. La forma en que los departamentos de policía respondan al llamado de la sirena de la vigilancia por Big Data revelará si van camino de repetir los mismos errores.
Este artículo fue publicado originalmente en Yahoo por The Conversation.
