Anthropic chiede una Pausa di Sviluppo sull’IA: verso l’auto-miglioramento ricorsivo

Anthropic ha creato uno dei modelli di IA più potenti al mondo, ma ha richiesto una pausa nello sviluppo per permettere alla ricerca sulla controllabilità e alle normative di sicurezza di tenere il passo. La preoccupazione principale è legata all'accelerazione dello sviluppo dell'IA e al rischio di auto-miglioramento ricorsivo.

Anthropic ha proposto la creazione di un modo che possa a livello internazionale di rallentare o fermare temporaneamente lo sviluppo dei più potenti sistemi di intelligenza artificiale. L’azienda non vuole mettere in pausa solo i propri progetti: in questo caso i concorrenti continueranno semplicemente la corsa. Abbiamo bisogno di un accordo generale tra i grandi sviluppatori di diversi paesi, principalmente Stati Uniti e Cina.

Anthropic produce la famiglia di modelli Claude e spesso parla pubblicamente dei rischi dell’intelligenza artificiale. In un nuovo rapporto, la società scrive che la società potrebbe aver bisogno di tempo per consentire alla ricerca sulla controllabilità, alle normative di sicurezza e alla supervisione del governo di tenere il passo con le crescenti capacità dei sistemi avanzati.

Senza un quadro comune, le imprese e le autorità prenderanno decisioni sotto la pressione della concorrenza e della geopolitica.

La preoccupazione principale è legata all’accelerazione dello sviluppo stesso. L’intelligenza artificiale sta già aiutando a scrivere codice, condurre test, trovare errori, analizzare risultati e migliorare le prossime generazioni di modelli.

Anthropic chiama questo processo ciclo di accelerazione: la persona rimane ancora nella catena, ma ad ogni fase svolge sempre meno lavoro manuale.

Il rapporto descrive separatamente il rischio di auto-miglioramento ricorsivo. Questo è il nome di una situazione in cui l’intelligenza artificiale progetta e perfeziona in modo quasi indipendente versioni più potenti di se stessa. Anthropic sottolinea che questo momento non è ancora arrivato e non è inevitabile, ma potrebbe avvicinarsi prima che i governi e le organizzazioni scientifiche preparino regole chiare.

Per la pausa di lavoro, una dichiarazione pubblica non è sufficiente.

Anthropic paragona questa tregua al controllo degli armamenti nucleari, ma considera l’intelligenza artificiale più difficile da testare: un silo missilistico è difficile da nascondere, mentre addestrare un modello di grandi dimensioni può essere nascosto molto più facilmente. Quindi l’accordo avrà bisogno di termini verificabili: quali sistemi sono soggetti a restrizioni, chi smette di funzionare, come monitorare il rispetto delle regole e cosa fare in caso di violazione nascosta.

L’idea quasi certamente incontrerà resistenza a Washington e nella Silicon Valley. I funzionari e le aziende tecnologiche statunitensi avvertono da tempo che il rallentamento potrebbe dare alla Cina un vantaggio strategico. Anche se alcuni esperti concordano con i rischi, l’arresto sincrono tra i concorrenti rimarrà un compito estremamente difficile.

Anthropic ha dei critici nel settore oltre a dei funzionari governativi. Gli oppositori ritengono che l’azienda parli troppo spesso di scenari estremi e possa utilizzarequesta propaganda a suo vantaggio. Allo stesso tempo, la Casa Bianca riconosce il potere dei moelli di Anthropic: il modello Mythos non è stato aperto al grande pubblico a causa delle opportunità nella sicurezza informatica e viene utilizzato solo in una cerchia limitata di organizzazioni fidate.

Anche il contesto politico sta cambiando. Il presidente degli Stati Uniti Donald Trump, ad esempio, questa settimana ha firmato un ordine esecutivo che richiede il pre-test volontario dei modelli di intelligenza artificiale più potenti d’America prima del rilascio. Le agenzie federali avranno fino a 30 giorni per valutare, principalmente in termini di rischi informatici e minacce alle infrastrutture critiche.

Trump ha anche affermato di aver discusso della possibile cooperazione con la Cina sulla sicurezza dell’intelligenza artificiale durante una recente visita a Pechino.

Ciò non significa che siamo pronti per una pausa globale, ma dimostra che il tema è già andato oltre i resoconti aziendali. I modelli più potenti sono sempre più visti come tecnologie che potrebbero avere un impatto sulla sicurezza degli Stati.

Anthropic discuterà del possibile meccanismo con funzionari, scienziati, ONG e altre società di intelligenza artificiale nei prossimi mesi. La questione principale rimane pratica: come dare all’industria l’opportunità di rallentare se ogni partecipante teme che gli altri continuino lo sviluppo.

Luigi Zullo

Ricercatore di sicurezza informatica con esperienza nell’analisi delle vulnerabilità, nella mitigazione del rischio cyber, nelle attività di red teaming ed ethical hacking e nella protezione di sistemi complessi. Specializzato in penetration testing e Threat Intelligence, contribuisce al rafforzamento della resilienza digitale di infrastrutture e reti aziendali.

Aree di competenza: Penetration Testing, Threat Intelligence, Red Teaming, Vulnerability Assessment, Incident Response