China dice que las respuestas de los bots tipo ChatGPT tienen que alinearse con los dogmas del Partido Comunista

HONG KONG.– A cinco meses del frenesí de inversiones en inteligencia artificial que desató el lanzamiento de ChatGPT, el gobierno de Pekín empezó a tomar medidas para controlar los bots conversacionales en China, una muestra más de su determinación de mantener un estricto control regulatorio sobre una tecnología que podría redefinir nuestra era.

La Administración Ciberespacial de China reveló este mes un borrador de regulaciones para la así llamada “inteligencia artificial generativa”, los sistemas de software como el que ChatGPT, capaces de formular textos e imágenes a partir de una pregunta o pedido de los usuarios.

Según ese borrador, las empresas deberán ceñirse a los estrictos parámetros de la censura china, así como los sitios web y las aplicaciones deben evitar publicar material que empañe la imagen del gobierno chino o reflotar historias que están prohibidas. El contenido de los sistemas de inteligencia artificial (IA) deberán reflejar “el núcleo de los valores socialistas” y evitar toda información “que socave el poder del Estado o la unidad nacional”.

Las empresas también deberán asegurarse de que los bots conversacionales generen textos e imágenes que sean fidedignos y respeten los derechos de propiedad intelectual, y se les exigirá que registren sus algoritmos –el cerebro detrás de los bots– en los organismos reguladores.

Todavía se trata de un borrador y es probable que los reguladores chinos le introduzcan modificaciones, pero los expertos dicen que los desarrolladores de IA de China ya están tratando de descular la manera de incorporar esas normas a sus productos y servicios.

Los gobiernos de todo el mundo se quedaron boquiabiertos por el poder de los bots y de los resultados, entre inocuos y alarmantes, que genera la IA. En estos últimos meses, la IA fue utilizada para hacer de todo, desde aprobar exámenes universitarios con excelentes notas hasta generar una foto del papa Francisco vestido con una camperón blanco.

El éxito arrollador de ChatGPT, desarrollado por la empresa norteamericana OpenAI con un apoyo de 13.000 millones de dólares de Microsoft, impulsó a Silicon Valley a buscar nuevos usos para esa tecnología, desde videojuegos hasta publicidades. La firma de capitales de riesgo Sequoia Capital estima que los negocios de IA podrían llegar a generar “billones de dólares” en ganancias.

Y los inversores y emprendedores de China no se quieren quedar atrás. Las acciones de las empresas chinas de IA se dispararon, y en los últimos meses algunas de las grandes tecnológicas del país hicieron resonantes anuncios, incluidas la gigante del comercio electrónico Alibaba, la desarrolladora de software de reconocimiento facial SenseTime y el motor de búsqueda Baidu. En poco tiempo, al menos dos startups que están desarrollando alternativas chinas a ChatGPT han recaudado millones de dólares en inversiones.

ChatGPT no está disponible en China, pero frente al creciente número de alternativas desarrolladas localmente, Pekín salió rápidamente a marcar sus “líneas rojas” para la IA, adelantándose a otros países que siguen estudiando cómo regular a los bots conversacionales.

El borrador muestra que el enfoque regulador de China es “moverse rápido y a los golpes”, dice Kendra Schaefer, directora de políticas tecnológicas de la consultora Trivium China, con sede en Pekín. “Como no hay un sistema político de dos partidos que se sientan a discutir, el gobierno puede decir simplemente ‘Hacemos esto y después cualquier cosa lo revisamos’”, agrega Schaefer.

Los bots conversacionales se entrenan en base a la vasta información contenida en internet, y los desarrolladores a veces se desvelan por las inexactitudes o las respuestas sorprendentes que arrojan. Y ahora China les exige un nivel de control técnico sobre los bots que las tecnológicas chinas todavía no han alcanzado. Hasta gigantes como Microsoft siguen haciendo sintonía fina de sus bots para evitar que arrojen respuestas perjudiciales. Y en China la vara está mucho más alta, por eso algunos bots chinos ya fueron cerrados y otros solo están disponibles para un número restringido de usuarios.

No hay consenso entre los expertos sobre la dificultad de entrenar los sistemas de IA para que sean consistentes con los hechos. Algunos dudan de que las empresas puedan cumplir con la amplia gama de reglas de la censura china, que suelen ser amplias, cambian constantemente y hasta exigen la eliminación de palabras y fechas específicas, como el 4 de junio de 1989, el día de la masacre de la Plaza de Tiananmen. Otros creen que con el tiempo y con mayor desarrollo, las máquinas podrán ajustarse a la verdad y a sistemas de valores específicos, incluso ideológicos y políticos.

Los analistas estiman que las reglas sufrirán algunos cambios después de que el gobierno consulte con las empresas tecnológicas de China. Los reguladores podrían suavizar su aplicación, para que las reglas no coarten por completo el desarrollo de la tecnología.

China tiene un largo historial de censura en internet. A lo largo de la década de 2000, el país construyó la red de rastreo de información más poderosa del mundo a través de la web, y espantó a las empresas occidentales que no cumplían, como Google y Facebook. También contrató a millones de empleados para monitorear la actividad en internet.

Pero las empresas de tecnología de China que tenían que cumplir con las reglas igualmente florecieron, desafiando a los críticos occidentales que predecían que el control político dinamitaría el crecimiento y la innovación. Con el surgimiento de tecnologías como el reconocimiento facial y los celulares inteligentes, las empresas ayudaron al gobierno a aprovecharlas para crear un Estado policial.

El auge de la IA entraña nuevos riesgos para el Partido Comunista, señala Matt Sheehan, experto en IA china y miembro del Fondo Carnegie para la Paz Internacional.

El carácter imprevisible de los bots, capaces de hacer afirmaciones sin sentido o directamente falsas –lo que los investigadores de IA llaman “alucinaciones”–, va en contra de la obsesión del Partido Comunista por controlar lo que la gente dice online, apunta Sheehan.

“La inteligencia artificial generativa puso en tensión dos de los máximos objetivos del partido: el control de la información y el liderazgo en inteligencia artificial”, agrega.

Pero los expertos señalan que las nuevas regulaciones de China no responden exclusivamente a motivaciones políticas, sino también a otros objetivo, como proteger la privacidad y la propiedad intelectual de las personas y los creadores de los datos que la IA usa para aprender y entrenarse, un tema candente de preocupación en todo el mundo.

Las perspectivas de China en materia de IA se dispararon a principios de febrero cuando Xu Liang, un ingeniero y empresario de IA, lanzó una de las primeras respuestas chinas a ChatGPT, la aplicación para celulares ChatYuan, que cosechó más de 10.000 descargas en la primera hora.

De inmediato los medios informaron marcadas diferencias entre el relato del gobierno y las respuestas de ChatYuan, que arrojaba un diagnóstico sombrío de la economía china y describía la guerra rusa en Ucrania como una “guerra de agresión”, en desacuerdo con la postura más prorrusa del partido de gobierno. Días después, las autoridades cerraron la aplicación.

Xu anunció que estaba incorporando medidas para crear un bot más “patriótico”, incluyendo el filtrado de palabras clave confidenciales y la contratación de más revisores que puedan identificar las respuestas problemáticas en tiempo real. Incluso está entrenando un modelo separado capaz de detectar “puntos de vista incorrectos”.

Pero nadie sabe hasta qué punto el nuevo bot de Xu dejará contentas a las autoridades. Inicialmente, se anunció que la aplicación volvería a funcionar el 13 de febrero, pero hasta el viernes pasado seguía inactiva.

“El servicio se reanudará cuando se haya completado la solución de los problemas”, sigue diciendo el mensaje en su página de inicio.

Por Chang Che

Traducción de Jaime Arrambide