Yahoo Noticias El horror de encontrar fotos falsas de tu hija desnuda alteradas con Inteligencia Artificial
El martes por la mañana, realizando mi rutina diaria, escuché en la radio que en España un grupo de niñas menores de edad habían sido violentadas a través de la manipulación de sus fotos con Inteligencia Artificial (IA); dicha alteración digital las hacía parecer desnudas, aunque en realidad solo eran sus rostros. Me pregunté si realmente había escuchado bien la noticia que la locutora compartía… A la par, en el noticiero también se hablaba de la 78 Asamblea General de la ONU en la que su secretario, António Guterres, advirtió sobre las amenazas ya presentes de la tecnología, principalmente la Inteligencia Artificial.
Muchos de los peligros de la tecnología digital ya están aquí.
El discurso de odio, la desinformación y las teorías de la conspiración en las redes sociales se amplifican mediante IA, socavando la democracia y alimentando la violencia y los conflictos.@antonioguterres #UNGA pic.twitter.com/DS0k0pmvJ3— Noticias ONU (@NoticiasONU) September 19, 2023
Quise continuar con mi rutina, pero me fue imposible; decidí investigar más al respecto y en efecto… lo que deseaba fuera una broma de mal gusto -o un mal entendido por mi audición-, al final resultó que tal atrocidad sí ocurrió.
“Mamá, mira lo que ha pasado. Es que esto se lo han hecho a muchas niñas”
Los hechos se suscitaron en la comunidad de Almendralejo, municipio de Badajoz (Extremadura), donde según las propias madres de las niñas afectadas, la mayoría se conoce por ser un pueblo chiquito. Así, el domingo 17 de septiembre, Miriam al Adib, ginecóloga y madre de una de las jóvenes decidió hacer público el caso, ya que luego de regresar de un viaje de trabajo, se encontró con la mala noticia en voz de su propia hija.
En entrevista con El País, Al Adib indicó que ese día al terminar de comer, su hija de 14 años, se le acercó y le dijo: “Mamá, mira lo que ha pasado. Es que esto se lo han hecho a muchas niñas. La niña le enseñó la foto de ella misma desnuda. ‘Me dio un vuelco el corazón’... ‘Si yo no conozco el cuerpo mi hija, esta foto parece real’. La niña le dijo que la iba a llamar una madre de una amiga porque, al parecer, se están juntando más madres en un grupo de WhatsApp. La madre de la amiga de su hija le cuenta por teléfono que hay un montón de afectadas. ‘Algunas madres saben que hay fotos de sus hijas desnudas, pero no las tienen’, cuenta…”.
Posterior a ello, la experta en ginecología y escritora decidió hacer el caso público a través de su cuenta de Instagram con miles de seguidores. La atrocidad le ha dado la vuelta al mundo. ¿Por qué digo atrocidad? Por que esos videos manipulados con los rostros de las niñas circularon, según reportes de medios españoles, en grupos de WhatsApp del colegio de las afectadas; porque una madre reporta al Diario.es que un chico quiso extorsionar a su hija a cambio de “su imagen desnuda”; porque otra madre en el mismo video, señaló que al parecer algunos de los chicos involucrados tiene la plataforma OnlyFans y que la propia policía les indicó que no sabían hasta dónde llegarían estas imágenes y que era muy difícil revertir el daño.
Al Adib puntualizó en este video de IG -con rostro totalmente dislocado-, que “era una sensación horrible ver la imagen de tu hija porque es una foto pornográfica… yo porque conozco el cuerpo de mi hija y sé que no es ella.. pero al app lo hace hiperrealista”. Pese a su dolor y gracias a la valentía de Al Adib -para contar lo ocurrido, así como recordarles a las víctimas que no están solas y decirle a los responsables que esto "es un delito y grave"- y la decisión de otras madres para ir a denunciar el caso, la Policía Nacional ya investiga las fotos de menores "desnudas" creadas por inteligencia artificial (IA). Según los últimos reportes de medios españoles, ya suman más de una decena de denuncias.
Ya son 11 las denuncias por las fotos de menores manipuladas con inteligencia artificial en Almendralejo y localidades cercanas. La policía investiga para identificar a todos los implicados en esta simulación de material pornográfico y en su difusión. pic.twitter.com/4y0JQEflrA
— Extremadura Noticias (@noticiasCEX) September 19, 2023
Atenta contra “la intimidad y el honor”
La agencia española EFE informó que el propio Fiscal Superior de Extremadura, Francisco Javier Montero, calificó de “alarmante” el uso de la IA en los delitos sexuales ya que “se suplantan identidades y atenta, mediante la manipulación fotográfica, la intimidad y el honor”.
La manipulación de fotos con IA ha hecho eco en la clase política para exigir una regulación en el uso de esta tecnología, como lo hizo la legisladora Mónica García en la Asamblea de Madrid.
Mónica García, sobre las fotos de falsos desnudos de menores hechos con inteligencia artificial en Extremadura: "Necesitamos regular la IA para evitar que el machismo encuentre una puerta de entrada a una nueva forma de humillar y extorsionar a las mujeres" pic.twitter.com/ZfZeQzMcRU
— El HuffPost (@ElHuffPost) September 19, 2023
Cadena Ser reportó que la presidenta de la Junta de Extremadura, María Guardiola, expresó “su apoyo a las víctimas y a las familias del ‘suceso repugnante’…, quien añade que la violencia digital contra las mujeres es ‘una lacra en auge’”.
El Presidente del TSJA, Manuel Bellido, indicó a Aragón Noticias que "utilizar la imagen de una persona y colocarla en imágenes distintas, normalmente denigrantes… eso no está permitido y está penando en la actualidad".
🚔📱La @policia ha identificado ya a siete de los menores de Extremadura que utilizaron una aplicación para desnudar virtualmente a otras adolescentes gracias a la inteligencia artificial. El caso ha puesto sobre la mesa la importancia de proteger la intimidad de los más… pic.twitter.com/wjQGpTlkjG
— Aragón Noticias (@AragonNoticias_) September 19, 2023
Sin duda, este caso abre la necesidad de analizar las amenazas la Inteligencia Artificial para la humanidad -como lo indica la ONU- y por ende es urgente pensar en una regulación de su uso, el cual es cada vez más común y está al alcance de un clic.
