Anuncios

Junta de supervisión de Meta califica de "incoherente" la norma sobre videos ultrafalsos de la compañía

Foto de archivo ilustrativa del logo de Meta AI

(.)

Por Katie Paul

NUEVA YORK, 5 feb (Reuters) - El Consejo de Supervisión de Meta determinó que un video de Facebook en el que se sugiere erróneamente que el presidente de Estados Unidos, Joe Biden, es un pedófilo no infringe las normas actuales de la empresa, al tiempo que las considera "incoherentes" y demasiado centradas en los contenidos generados por IA.

El consejo, financiado por Meta pero gestionado de forma independiente, se ocupó del caso en octubre en respuesta a una queja de un usuario sobre un video alterado de siete segundos del presidente publicado en la red social insignia de Meta.

La sentencia del lunes es la primera que aborda la política de "medios manipulados" de Meta, que prohíbe ciertos tipos de videos manipulados, en medio de la creciente preocupación por el posible uso de las nuevas tecnologías de IA para influir en las elecciones de este año.

La política "carece de justificación persuasiva, es incoherente y confusa para los usuarios, y no especifica claramente los daños que trata de prevenir", dijo la junta.

El consejo sugirió a Meta que actualice la norma para que cubra tanto los contenidos de audio como de video, independientemente de si se había utilizado IA, y que aplique etiquetas que los identifiquen como manipulados.

Se abstuvo de pedir que la política se aplique a las fotografías, advirtiendo que hacerlo podría llevar a que sea demasiado difícil de aplicar a la escala de Meta.

Meta, que también es propietaria de Instagram y WhatsApp, informó a la junta en el transcurso de la revisión que estaba planeando actualizar la política "para responder a la evolución de una IA nueva cada vez más realista", según el fallo.

La compañía dijo en un comunicado el lunes que estaba revisando el fallo y que respondería públicamente en un plazo de 60 días.

El clip de Facebook manipulaba imágenes reales de Biden intercambiando pegatinas de "Yo voté" con su nieta durante las elecciones legislativas estadounidenses de 2022 y dándole un beso en la mejilla.

Versiones del mismo videoclip alterado habían empezado a hacerse virales en enero de 2023, según la Junta.

En su fallo, la Junta de Supervisión dijo que Meta tenía razón al dejar el video en su política actual, que prohíbe los videos alterados engañosamente sólo si fueron producidos por inteligencia artificial o si hacen que las personas parezcan decir palabras que en realidad nunca dijeron.

El consejo afirmó que los contenidos no alterados por IA "son frecuentes y no necesariamente menos engañosos" que los generados por herramientas de IA.

La política debe aplicarse también a los contenidos que sólo incluyan audio y a los videos que muestren a personas haciendo cosas que en realidad no hicieron.

Añadió que la aplicación de la política debería consistir en etiquetar los contenidos, en lugar de eliminar las publicaciones de las plataformas como hace Meta en la actualidad.

(Reporte de Katie Paul; Editado en Español por Ricardo Figueroa)