¿Una IA comunista? China usa a censores para comprobar si sus IA "encarnan valores socialistas".

El Gobierno chino vigila de cerca a las empresas desarrolladoras de inteligencia artificial (IA) del país. Quieren asegurarse de que sus grandes modelos lingüísticos (LLM) "encarnan los valores socialistas fundamentales", según un informe.

Tanto las nuevas empresas como las grandes compañías tecnológicas, como ByteDance, propietaria de TikTok, y Alibaba, serán examinadas por el principal regulador de Internet del Gobierno, la Administración del Ciberespacio de China (CAC), según el 'Financial Times' (FT).

Examen patriótico a la inteligencia artificial

Los funcionarios de la CAC pondrán a prueba los modelos de IA por sus respuestas a preguntas relacionadas con temas políticos y con el presidente Xi Jinping, entre otros.

La normativa ha llevado a los chatbots más populares de China a rechazar preguntas sobre temas como las protestas de la plaza de Tiananmen de 1989 y la matanza de los manifestantes.

Distintos países tratan de establecer un modelo para la regulación de la IA y China fue uno de los primeros en establecer normas para regular la IA generativa (GenAI), que incluían requisitos como la adhesión a los "valores fundamentales del socialismo".

Hay modelos que suspenden

Una empresa china de IA declaró al FT que su modelo no superó la primera ronda de pruebas por razones que no estaban claras, pero que sí lo hizo tras "adivinar y ajustar" el modelo.

Según el informe, el "filtrado de seguridad", que consiste en eliminar la "información problemática" de los datos de entrenamiento del modelo de IA y añadir después una base de datos de palabras sensibles, es la forma de cumplir los requisitos de la política de censura.

Los conjuntos de datos de entrenamiento son más problemáticos para cumplir las normas, ya que la mayoría de los modelos de IA se entrenan con datos en inglés, según explicaron los ingenieros al FT.

Entre dogmas políticos y la competencia internacional

La CAC intenta encontrar un equilibrio entre convertir a China en un líder competitivo en IA y cumplir la ideología comunista del Gobierno de partido único.

Los servicios de GenAI necesitan una licencia para operar y, si se descubre que ofrecen contenidos "ilegales", deben tomar medidas para dejar de generarlos y denunciarlos a la autoridad competente, según declaró la CAC el año pasado.

A pesar de la coerción normativa, China ha solicitado el mayor número de patentes GenAI del mundo, y ByteDance y la start-up Zhipu están desarrollando sus propios chatbots de IA generativa.