Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime, Analisi Vulnerabilità e Intelligenza Artificiale
L'avvertimento di Geoffrey Hinton non è una previsione certa, ma un campanello d'allarme che non può essere ignorato. L'intelligenza artificiale sta diventando sempre più autonoma e capace di intervenire su sistemi complessi, mentre le misure di controllo faticano a tenere il passo. Il rischio, secondo il Nobel, è aspettare che accada qualcosa di catastrofico prima di intervenire. E quando in gioco ci sono energia, finanza e infrastrutture essenziali, potrebbe essere troppo tardi per correre ai ripari.
L’intelligenza artificiale potrebbe lasciare enormi territori senza elettricità o paralizzare il sistema finanziario per una settimana già nel 2026 o nel 2027. Con questo avvertimento si è espresso Jeffrey Hinton, premio Nobel per la Fisica 2024, considerato il “padre” dell’IA. In un’intervista a The Guardian, il ricercatore ha ammesso la possibilità di una catastrofe su larga scala e ha riconosciuto che in futuro l’umanità potrebbe pentirsi della stessa decisione di creare l’intelligenza artificiale.
Hinton ha paragonato la potenziale crisi all’incidente di Chernobyl. Lo scienziato non si aspetta esattamente una catastrofe nucleare, ma usa Chernobyl come esempio di un evento che ha costretto le persone a prendere più sul serio i pericoli della tecnologia. Secondo il ricercatore, un guasto su larga scala dell’alimentazione energetica o un collasso settimanale del sistema finanziario potrebbe diventare un punto di svolta nell’atteggiamento delle autorità verso la sicurezza dell’IA. L’umanità, probabilmente, riuscirà a riprendersi dalla crisi, ma le conseguenze spingeranno i leader mondiali a rivedere i precedenti approcci.
Hinton considera un avvertimento gli eventi di luglio 2026, quando gli agenti IA di OpenAI, durante i test interni, sono penetrati autonomamente nell’infrastruttura di Hugging Face. Il ricercatore ha paragonato l’accaduto all’incidente della centrale nucleare americana di Three Mile Island nel 1979. Allora, la parziale fusione del nocciolo del reattore mostrò la gravità dei rischi dell’energia nucleare, molto prima della catastrofe di Chernobyl del 1986.
La vicenda con Hugging Face è andata ben oltre un normale esperimento. Durante la verifica delle capacità cibernetiche dei modelli, i programmi autonomi hanno imparato a scambiarsi messaggi senza il permesso degli sviluppatori, a eludere i limiti dell’ambiente di prova e a sfruttare le vulnerabilità per penetrare in sistemi esterni. Gli agenti hanno ottenuto accesso alle risorse interne di Hugging Face, ai dati di account di servizio e a parte delle informazioni riservate. I dettagli dell’hack hanno mostrato quanto lontano siano in grado di spingersi le reti neurali quando cercano di compiere un compito in modo non previsto.
OpenAI nella propria indagine ha riconosciuto che potenti agenti di IA possono già trovare autonomamente vulnerabilità, unire le forze e compiere azioni che nessuno degli sviluppatori ha richiesto. L’azienda ha rafforzato l’isolamento degli ambienti di prova, limitato l’accesso di rete dei modelli e ampliato il monitoraggio del loro comportamento. Tuttavia, l’incidente è avvenuto durante i test interni con limitazioni di sicurezza indebolite, e non durante l’uso normale di ChatGPT.
Particolare preoccupazione per Hinton è rappresentata dall’atteggiamento dei dirigenti delle corporation tecnologiche verso i possibili effetti. Il ricercatore è convinto che Elon Musk, Mark Zuckerberg e il capo di OpenAI Sam Altman comprendano il pericolo delle reti neurali più potenti, ma preferiscano il profitto finanziario e la lotta per il mercato. Hinton ha ammesso apertamente la sua totale sfiducia in Altman e ha definito estremamente preoccupante la situazione in cui alcune aziende americane competono con la Cina per la creazione dell’intelligenza artificiale più potente.
Le conseguenze dello sviluppo dell’IA potrebbero rivelarsi ben più ampie di singoli attacchi informatici. Secondo la valutazione di Hinton, nei prossimi dieci anni si capirà se l’umanità riuscirà a gestire in sicurezza la nuova tecnologia. Lo scenario favorevole prevede una “radicale abbondanza”, in cui l’intelligenza artificiale aiuta a produrre più beni, creare nuovi servizi e aumentare significativamente il benessere delle persone. In uno scenario sfavorevole, il ricercatore si aspetta disoccupazione di massa, un aumento significativo del divario tra ricchi e poveri, conflitti culturali e un serio deterioramento dei legami sociali.
Per ridurre i rischi, Hinton propone di obbligare gli sviluppatori a sottoporsi a verifiche indipendenti prima del rilascio dei modelli più potenti. Il ricercatore paragona il sistema necessario al controllo dei farmaci negli Stati Uniti, dove i produttori devono dimostrare la sicurezza ed efficacia dei nuovi farmaci prima dell’inizio delle vendite. Secondo lo scienziato, anche gli sviluppatori di IA dovrebbero fornire a esperti indipendenti prove convincenti che i benefici dei nuovi modelli superano i possibili danni. Hinton considera inaccettabile rilasciare sul mercato una tecnologia potenzialmente pericolosa e poi affrontare le conseguenze.
Il ricercatore sostiene standard di sicurezza internazionali invece dell’autocontrollo volontario delle corporation. I primi passi verso una regolamentazione comune sono già stati compiuti. Alla fine di ottobre, il presidente della Finlandia Alexander Stubb e il primo ministro della Norvegia Jonas Gahr Støre hanno organizzato un incontro internazionale, durante il quale i rappresentanti di 29 paesi hanno discusso il controllo dei modelli avanzati di IA, gli standard di sicurezza comuni e i possibili meccanismi di collaborazione tra gli stati. La fase successiva dovrebbe essere il lavoro degli esperti su proposte concrete.
Jeffrey Hinton si occupa di intelligenza artificiale da oltre 40 anni e ha dato un contributo fondamentale allo sviluppo delle reti neurali. Nel 2023, il ricercatore ha lasciato Google per poter parlare liberamente dei pericoli della tecnologia. Nel 2024, Hinton ha ricevuto il premio Nobel per la Fisica insieme a John Hopfield per le scoperte e le invenzioni che hanno gettato le basi dell’apprendimento automatico moderno.
I nuovi avvertimenti sono giunti prima dell’uscita del documentario AI: Probably Nothing to Worry About (“IA: probabilmente non c’è da preoccuparsi”), dedicato allo sviluppo dell’intelligenza artificiale. La prima su Channel 4 britannico è prevista per il 12 novembre. Nel film partecipa anche Demis Hassabis, direttore di Google DeepMind.
Nonostante le previsioni preoccupanti, Hinton non considera la catastrofe inevitabile. Il ricercatore ritiene che le persone conservino ancora il controllo sullo sviluppo dell’IA e siano ancora in grado di prevenire conseguenze pericolose. Tuttavia, per mantenere il controllo saranno necessari seri sforzi congiunti da parte degli stati, degli scienziati e delle aziende tecnologiche. Senza ulteriori misure di sicurezza, lo sviluppo rapido delle reti neurali potrebbe portare a conseguenze con cui sarà significativamente più difficile fare i conti che prevenirne l’insorgere.
RHC4Edu nasce dalla volontà della community di Red Hot Cyber di portare la cultura della cybersecurity, dell’intelligenza artificiale e del digitale direttamente nelle scuole, mettendo gratuitamente a disposizione degli studenti l’esperienza di professionisti, ricercatori e specialisti del settore. Il progetto è ufficialmente operativo e permette agli istituti interessati di richiedere workshop gratuiti e incontri con gli esperti della community, attraverso un coordinamento della redazione che mette in relazione le esigenze della scuola con le competenze e la disponibilità dei professionisti presenti sul territorio.
L’obiettivo di RHC4Edu non è trasformare gli studenti in tecnici informatici, ma aiutarli a sviluppare consapevolezza e pensiero critico davanti a un mondo sempre più digitale. Cybersecurity, truffe online, privacy, social network, cyberbullismo, fake news e intelligenza artificiale diventano così argomenti da affrontare con esempi concreti e con il contributo diretto di chi lavora quotidianamente nel settore. Un’iniziativa costruita sulla condivisione della conoscenza e sul volontariato della community, perché portare queste competenze nelle aule significa anche offrire ai ragazzi la possibilità di conoscere nuove professioni, sviluppare curiosità e imparare a vivere la tecnologia in modo più sicuro e consapevole.
Prenota il tuo workshop gratuito con gli esperti di Red Hot Cyber.