Cómo la imagen falsa del papa Francisco con una campera acolchada despertó un debate sobre el uso de la Inteligencia Artificial

El fin de semana se viralizó una foto del papa Francisco con una extravagante campera acolchada de color blanco. El atuendo, poco habitual para un sumo pontífice, despertó todo tipo de memes en redes sociales. Sin embargo, pronto se supo que la imagen había sido creada por Inteligencia Artificial (IA).

El medio estadounidense Buzzfeed News entrevistó al creador de la imagen. Pablo Xavier, un trabajador de la construcción de 31 años de Chicago, que se negó a compartir su apellido por temor a ser atacado en redes sociales, contó que estaba drogado con hongos cuando se le ocurrió la idea de la imagen.

“Intento hacer cosas divertidas o arte psicodélico, es lo que normalmente hago. Y se me ocurrió: ‘Debería hacer al Papa. El Papa con un abrigo de Balenciaga, Moncler, caminando por las calles de Roma, París’, cosas así”, explicó y agregó que comenzó a utilizar el programa de IA Midjourney luego de la muerte de su hermano en noviembre de 2022.

“Todo empezó con eso, lidiando con el dolor y creando imágenes de mi hermano fallecido”, indicó.

Cuando Pablo Xavier vio por primera vez las imágenes del Papa pensó que “eran perfectas”. Así que las publicó en un grupo de Facebook llamado AI Art Universe y luego en Reddit. Quedó atónito cuando las imágenes se viralizaron. “No quería que explotara así”, comentó.

El hombre, que creció en una familia católica pero se alejó de la religión, dijo que no tenía “ninguna mala intención”. “Sólo me pareció gracioso ver al Papa con una campera rara”, explicó y añadió que fue expulsado de Reddit horas después de publicar allí la imagen.

También señaló en diálogo con Buzzfeed News que le pareció “definitivamente aterrador” que la gente pensara que la imagen era real sin cuestionarla.

El debate

El episodio despertó un debate más profundo sobre el alcance de la Inteligencia Artificial y algunos medios lo clasificaron como “el primer caso real de desinformación masiva con IA”.

“Es probable que el meme se hiciera viral por la incertidumbre sobre si era real o falso”, dijo a The Washington Post Arvind Narayanan, profesor de informática de la Universidad de Princeton.

Dado que mucha más gente tiene acceso a este tipo de tecnología, será importante que plataformas de redes sociales como Twitter, Instagram y Reddit desarrollen mejores herramientas para etiquetar rápidamente la información errónea, añadió el experto.

Jamie Cohen, profesor asistente de estudios de medios en Queens College, señaló por su parte que existe un peligro claro en esta tendencia de imágenes poco realistas pero lo suficientemente realistas para ser creíbles.

Incluso con las barreras de seguridad existentes de IA, las personas podrían crear contenido que lleve a su audiencia al “límite de las teorías de conspiración”, dijo Cohen.

Lo que la imagen del papa Francisco destaca, en cualquier circunstancia, es la necesidad de desarrollar una especie de alfabetización en IA, coincidió el experto. “Esta es una buena entrada, un buen punto de entrada”, observó.

“En otras palabras, es posible, incluso probable, que las imágenes de IA nos engañen de manera devastadora. Podrían engañarnos para que cuestionemos nuestras creencias, nuestra fe en nuestro liderazgo, nuestra confianza mutua”, dijo el experto al Washington Post.

La semana pasada, en una entrevista con ABC News, el propio creador del ChatGPT advirtió que hay que “tener cuidado” con los usos que se le da a la IA. “Estamos un poco asustados por esto”, admitió Sam Altman, CEO de OpenAI.

Almatn enfatizó en la necesidad de “tener cuidado” respecto de las posibles consecuencias que el uso de estas novedosas herramientas puedan tener en la humanidad. Entre otras cosas, señaló estar “particularmente preocupado de que estos modelos puedan usarse para la desinformación a gran escala”.

Y señaló: “Se están mejorando en la escritura de código de computadora, por lo que estos podrían usarse para llevar a cabo ataques cibernéticos ofensivos”. Aun así, con la intención de traer calma, destacó que, de emplearse para el bien “sería el mayor invento que la humanidad haya desarrollado hasta ahora”.