La Cina sta valutando i rischi di sicurezza delle AI open-weight contro la sua strategia di innovazione tecnologica: lo affermano ricercatori che monitorano la corsa agli armamenti digitali con gli Stati Uniti. Modelli avanzati come GLM-5.2 di Zhipu AI stanno rapidamente colmando il divario prestazionale con i modelli proprietari di frontiera, spingendo gli analisti a prevedere un possibile cambiamento normativo.
Tradizionalmente, i modelli open-weight – che permettono a chiunque di scaricare gratuitamente il codice ed eseguirlo su hardware locale – hanno accumulato mesi di ritardo rispetto ai modelli proprietari. Tuttavia, le recenti pubblicazioni dei laboratori cinesi hanno ridotto significativamente questo gap.
GLM-5.2 è diventato il primo grande modello linguistico cinese (LLM) a entrare nella top 3 globale nei principali benchmark, guadagnandosi gli elogi degli utenti come primo modello open-weight affidabile per i flussi di lavoro quotidiani di programmazione.
Ma mentre questi modelli AI avanzano rapidamente, gli analisti avvertono che una risposta regolatoria potrebbe essere all’orizzonte.
“Man mano che i modelli open-weight si avvicinano ai rischi di cyber e biosicurezza di Mythos e altri modelli di frontiera, la Cina potrebbe fare lo stesso calcolo degli Stati Uniti e trovarli troppo pericolosi da rilasciare, specialmente in forma aperta”, ha dichiarato Mark Witzke, ricercatore non residente presso l’Università della California San Diego che studia le politiche tecnologiche USA-Cina.
Anthropic ha annunciato Mythos ad aprile. Questo potente LLM ha scosso le industrie globali con la capacità di identificare e sfruttare autonomamente vulnerabilità di sicurezza informatica. Di fronte agli avvertimenti che le sue avanzate capacità di ragionamento potrebbero abbassare le barriere tecniche per lo sviluppo di armi biologiche, il laboratorio statunitense ha limitato l’accesso a Mythos a un gruppo selezionato di organizzazioni americane.
Successivamente, con un divieto specifico, l’amministrazione Trump ha vietato ad Anthropic di rendere disponibile Claude Mythos alla popolazione estra-usa, comportando la chiusura del modello anche per chi ne aveva acquistata una licenza.
“Pechino è sempre più preoccupata per i rischi per la sicurezza legati all’intelligenza artificiale open-weight, soprattutto nei settori della sicurezza informatica e delle infrastrutture critiche”, ha affermato
Kristy Loke, ricercatrice presso MATS Research specializzata nella governance dell’IA in Cina, ha affermato che è improbabile che Pechino imponga un divieto totale a breve termine, sebbene “risposte normative più attive e formalizzate ai crescenti rischi di sovraesposizione siano sul tavolo”.
Ha inoltre sottolineato che il Paese ha inserito il rafforzamento dei sistemi di gestione del rischio dell’IA tra i suoi obiettivi del piano quinquennale 2026 .Nel corso di una riunione del Consiglio di Stato tenutasi il 29 giugno, il Primo Ministro Li Qiang ha esortato il governo a “mantenere ferma la linea di condotta in materia di sicurezza dell’IA”, a migliorare le norme istituzionali in settori quali l’etica tecnologica e la certificazione dei test, e a costruire un quadro normativo di sicurezza “dinamico, adattivo e a più livelli”.
Sebbene la posizione attuale di Pechino rimanga “ambivalente“, il Paese alla fine adotterà restrizioni mirate o controlli di accesso graduali, il che renderebbe il suo approccio simile a quelli introdotti da Washington negli ultimi mesi.
Ciò potrebbe includere norme più severe sulla divulgazione pubblica dei pesi dei modelli altamente avanzati, o restrizioni sull’utilizzo di determinati sistemi di pesi aperti all’interno di agenzie governative, imprese statali, infrastrutture critiche o settori politicamente sensibili, ha affermato.
Carolina Vivianti è consulente/Advisor autonomo in sicurezza informatica con esperienza nel settore tech e security. Ha lavorato come Security Advisor per Ford EU/Ford Motor Company e Vodafone e ha studi presso la Sapienza Università di Roma.
Aree di competenza: Cybersecurity, IT Risk Management, Security Advisory, Threat Analysis, Data Protection, Cloud Security, Compliance & Governance