Meta identifica redes que difunden contenidos engañosos probablemente generados por IA

(Corrige cuarto párrafo para indicar que es la primera revelación de uso de IA generativa de texto y no el primer uso de IA generativa en general)

NUEVA YORK (Reuters) - Meta dijo el miércoles que detectó contenidos "probablemente generados por inteligencia artificial" (IA) usados de forma engañosa en sus plataformas Facebook e Instagram, entre ellos comentarios que elogiaban la gestión israelí de la guerra en Gaza en publicaciones de organizaciones internacionales de noticias y legisladores estadounidenses.

En un informe trimestral de seguridad, la empresa de redes sociales dice que las cuentas se hicieron pasar por estudiantes judíos, afroamericanos y otros ciudadanos preocupados, y se dirigieron a públicos de Estados Unidos y Canadá. Atribuyó la campaña a la empresa de marketing político STOIC, que tiene su sede en Tel Aviv.

STOIC no respondió inmediatamente a una solicitud de comentarios sobre las acusaciones.

Si bien Meta ha encontrado fotos de perfil generadas por inteligencia artificial en operaciones de influencia desde 2019, el informe es el primero en revelar el uso de tecnología de IA generativa basada en texto desde que surgió a finales de 2022.

Los investigadores han temido que la IA generativa, que puede producir texto, imágenes y audio similares a los humanos de forma rápida y barata, pueda servir para campañas de desinformación más eficaces e influir en elecciones.

En una convocatoria de prensa, los ejecutivos de Meta Security afirmaron que no creían que las nuevas tecnologías de IA hayan obstruido su capacidad para desbaratar las redes de influencia, que son intentos coordinados de difundir mensajes.

Los ejecutivos afirmaron que no habían visto imágenes de políticos generadas por IA lo bastante realistas como para confundirlas con fotos auténticas.

(Reportaje de Katie Paul; edición en español de Javier López de Lérida)