El gobierno chino ha intensificado su control sobre las tecnologías de inteligencia artificial (IA). Exigiendo que los modelos de lenguaje de gran tamaño (LLM) encarnen los valores socialistas fundamentales. Esta medida forma parte de un régimen de censura en expansión, que ahora incluye la vigilancia y regulación de las respuestas generadas por chatbots.
Intervención de la Administración del Ciberespacio de China
La Administración del Ciberespacio de China (CAC), el principal regulador de internet del país, ha impuesto una revisión obligatoria a las grandes compañías tecnológicas y startups de IA, como ByteDance, Alibaba, Moonshot y 01.AI. Este proceso incluye pruebas exhaustivas de los LLM para asegurar que sus respuestas reflejen los valores políticos del Partido Comunista Chino.
Funcionarios de la CAC realizan auditorías en las oficinas de estas empresas, evaluando tanto los datos de entrenamiento como los mecanismos de seguridad de los modelos. Las pruebas incluyen una serie de preguntas políticamente sensibles, muchas de ellas relacionadas con el presidente Xi Jinping y otros temas delicados.
Las empresas de IA han enfrentado dificultades para pasar estas auditorías. Un empleado de una empresa en Hangzhou mencionó que no lograron aprobar en el primer intento, obligándolos a realizar ajustes significativos para cumplir con las exigencias del gobierno. Este proceso, que puede durar meses, ha llevado a los ingenieros a desarrollar técnicas específicas para censurar contenido en tiempo real.
Eliminación de Información Problemática
Las compañías comienzan eliminando información problemática de los datos de entrenamiento y creando bases de datos de palabras clave sensibles. La guía operativa publicada en febrero de 2024 por China establece que las empresas deben actualizar semanalmente estas palabras clave, asegurando que los modelos no inciten a la subversión del Estado o socaven la unidad nacional.
Para manejar las respuestas en tiempo real, las empresas han desarrollado modelos clasificadores que detectan contenido sensible y activan reemplazos automáticos. Este enfoque ayuda a mantener las respuestas de los LLM políticamente correctas y alineadas con los valores socialistas.
Chatbots como Ernie de Baidu y Tongyi Qianwen de Alibaba demuestran cómo se evitan temas delicados. Preguntas sobre eventos como la masacre de la Plaza de Tiananmen o comparaciones de Xi Jinping con Winnie the Pooh son rechazadas o evadidas con respuestas genéricas.
Efectos y Resultados
El cumplimiento de estos estándares ha variado entre las empresas. Un estudio de la Universidad de Fudan clasificó a Doubao, el chatbot de ByteDance, como el más alineado con los valores socialistas, con una tasa de cumplimiento del 66.4%. En comparación, GPT-4o de OpenAI obtuvo solo un 7.1%.
Fang Binxing, el creador del gran cortafuegos de China, trabaja en un sistema de protocolos de seguridad que espera sea adoptado por todos los desarrolladores de IA en China. Este sistema busca proporcionar un monitoreo de seguridad en línea en tiempo real, asegurando que los modelos predictivos públicos cumplan con las normativas de seguridad del país.
China ha implementado uno de los regímenes regulatorios más estrictos del mundo para la IA, asegurando que los modelos de lenguaje sigan los valores socialistas fundamentales. Este enfoque refleja la continua expansión de la censura del gobierno chino, ahora aplicada a la inteligencia artificial, con implicaciones significativas para el desarrollo y uso de esta tecnología en el país.
Para estar siempre al día con las últimas noticias y contenidos exclusivos, les invitamos a seguirnos en todas nuestras plataformas sociales de SéUno. Conéctense con nosotros en Facebook, X(Twitter), Instagram, TikTok, YouTube y Threads. ¡No se pierdan ninguna actualización y formen parte de nuestra creciente comunidad en línea!
