New Haven (Project Syndicate).- En su ahora clásico libro de 2018, AI Superpowers , Kai-Fu Lee lanzó el desafío al argumentar que China representa una amenaza tecnológica creciente para los Estados Unidos. Cuando Lee dio una conferencia como invitado en mi clase "La próxima China" en Yale a fines de 2019, mis alumnos quedaron cautivados por su caso provocativo : Estados Unidos estaba a punto de perder su ventaja de ser el primero en descubrir (la experiencia de los algoritmos de IA) en beneficio de China. en implementación (aplicaciones impulsadas por big data). Por desgracia, Lee omitió un desarrollo clave: el surgimiento de grandes modelos de lenguaje y la inteligencia artificial generativa. Si bien aludió a una forma más genérica de tecnología de propósito general, que se remonta a la Revolución Industrial, no estuvo cerca de capturar el frenesí de ChatGPT que ahora ha envuelto el debate de la IA. Los argumentos de Lee, aunque hacían vagas referencias al "aprendizaje profundo" y las redes neuronales, giraban mucho más en el potencial de la IA para reemplazar las tareas realizadas por humanos que en las posibilidades de una "inteligencia general artificial" que se acerca al pensamiento humano. Esta no es una consideración trivial cuando se trata del futuro de China como una superpotencia de IA. Eso es porque la censura china inserta un gran "si" en ese futuro. En un ensayo reciente , Henry Kissinger, Eric Schmidt y Daniel Huttenlocher, cuyo libro de 2021 insinuó el potencial de la IA de propósito general, presentan argumentos sólidos para creer que ahora estamos en la cúspide de una revolución intelectual habilitada por ChatGPT. No solo abordan los desafíos morales y filosóficos que plantean los grandes modelos generativos de lenguajes; también plantean cuestiones prácticas importantes sobre la implementación que se relacionan directamente con la escala del cuerpo de conocimiento incrustado en el lenguaje que se está procesando. Es precisamente aquí donde el estricto régimen de censura de China hace saltar las alarmas. Si bien existe una larga y rica historia de censura tanto en Oriente como en Occidente , el Departamento de Propaganda (o Publicidad) del Partido Comunista de China se destaca en sus esfuerzos por controlar todos los aspectos de la expresión en la sociedad china: periódicos, películas, literatura, los medios de comunicación y la educación, y dirigir la cultura y los valores que dan forma al debate público. A diferencia de Occidente, donde todo vale en la web, los censores de China insisten en pautas políticas estrictas para la difusión de información conforme al CPC. Los internautas chinos no pueden encontrar referencias a la Revolución Cultural de una década , la tragedia de junio de 1989 en la Plaza de Tiananmen, los problemas de derechos humanos en el Tíbet y Xinjiang , las fricciones con Taiwán , las manifestaciones democráticas de Hong Kong de 2019, el retroceso contra el cero-COVID políticas y mucho más. Esta edición agresiva de la información es un gran escollo para un ChatGPT con características chinas. Al hacer borrón y cuenta nueva de eventos importantes y las experiencias humanas asociadas con ellos, el régimen de censura de China ha reducido y distorsionado el cuerpo de información que se utilizará para entrenar grandes modelos de lenguaje mediante el aprendizaje automático. De ello se deduce que la capacidad de China para beneficiarse de una revolución intelectual de IA se verá afectada como resultado. Por supuesto, es imposible cuantificar el impacto de la censura con precisión. La encuesta anual Freedom on the Net de Freedom House proporciona una evaluación cualitativa. Para 2022, otorga a China el "puntaje de libertad de Internet" general más bajo de una muestra de 70 países. Esta métrica se deriva de las respuestas a 21 preguntas (y casi 100 subpreguntas) que se organizan en tres amplias categorías : obstáculos de acceso, violaciones de los derechos de los usuarios y límites en el contenido. La subcategoría de contenido, que refleja el filtrado y bloqueo de sitios web, las restricciones legales sobre el contenido, la vitalidad y diversidad del dominio de información en línea y el uso de herramientas digitales para la movilización cívica, es la aproximación más cercana a la medición del impacto de la censura en el escala de información buscable. El puntaje de China en este conteo fue dos de 35 puntos , en comparación con un puntaje promedio de 20. De cara al futuro, podemos esperar más de lo mismo. El gobierno chino ya se ha apresurado a emitir nuevos borradores de reglas sobre chatbots. El 11 de abril, la Administración del Ciberespacio de China (CAC) decretó que el contenido generativo de IA debe “incorporar valores socialistas centrales y no debe contener ningún contenido que subvierta el poder estatal, abogue por el derrocamiento del sistema socialista, incite a dividir el país o socave la unidad nacional”. .” Esto subraya una distinción vital entre el régimen de censura preexistente y los nuevos esfuerzos de supervisión de la IA. Mientras que el primero utiliza el filtrado de palabras clave para bloquear información inaceptable, el segundo (como se señaló en un foro reciente de DigiChina ) se basa en un enfoque Whac-a-Mole para contener el procesamiento generativo de dicha información que cambia rápidamente. Esto implica que cuanto más intente el CAC controlar el contenido de ChatGPT, menor será la salida resultante de la inteligencia china generada por chatbot, otra limitación más para la revolución intelectual de la IA en China. Como era de esperar, los primeros resultados de los esfuerzos de IA generativa de China han sido decepcionantes. Wenxin Yiyan de Baidu , o "Ernie Bot", el modelo de lenguaje grande pionero más conocido de China, fue criticado recientemente en Wired por intentar operar en "una Internet con cortafuegos regida por la censura del gobierno". Se han informado resultados decepcionantes similares para otros modelos de procesamiento de lenguaje de IA en China, incluidos Robot , Lily y Tongyi Qianwen de Alibaba (traducido aproximadamente como "la verdad de las mil preguntas"). Además, una evaluación reciente de NewsGuard , una "herramienta de confianza en Internet" establecida y mantenida por un gran equipo de respetados periodistas occidentales, encontró que ChatGPT-3.5 de OpenAI generó mucha más información falsa o "alucinógena" en chino que en inglés. . El notable libro del erudito literario Jing Tsu, Kingdom of Characters: The Language Revolution that Made China Modern, subraya el papel fundamental que ha desempeñado el idioma en la evolución de China desde 1900. Al final, el idioma no es más que un medio de información, y en su último capítulo, Tsu aprovecha ese punto para argumentar que "Quien controla la información controla el mundo". En la era de la IA, esa conclusión plantea preguntas profundas para China. La información es el combustible crudo de los modelos de IA de lenguaje grande . Pero la censura estatal grava a China con pequeños modelos de lenguaje. Esta distinción bien podría tener un impacto crítico en la batalla por el control de la información y el poder global. ****Stephen S. Roach, miembro de la facultad de la Universidad de Yale y expresidente de Morgan Stanley Asia, es autor de Unbalanced: The Codependency of America and China (Yale University Press, 2014) y Accidental Conflict: America, China, and the Clash of Narrativas falsas (Yale University Press, 2022). Imagen: Nikkei.