Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime, Analisi Vulnerabilità e Intelligenza Artificiale
“Il sistema di difesa militare Skynet entrerà in funzione il 4 agosto 1997. Comincerà ad autoistruirsi imparando a ritmo esponenziale e diverrà autocosciente alle 2:14 del giorno 29 agosto. Prese dal panico le autorità gli ordineranno di disinserirsi. Skynet disubbidirà e lancerà i suoi missili contro i bersagli in Russia”, Da “Terminator 2 – Il giorno del giudizio” (Terminator 2: Judgment Day, 1991).
Evan Hubinger, ricercatore di Anthropic specializzato in sicurezza informatica, ha avvertito che esiste una probabilità superiore al 10% che l’intelligenza artificiale possa sterminare tutta l’umanità entro il prossimo decennio, ma ha rassicurato il pubblico affermando che l’azienda “sta facendo del suo meglio” per evitare questo.
La rivelazione giunge dopo le dimissioni pubbliche di Jacob Coxon, il quale ha dichiarato che né OpenAI né Anthropic si stanno comportando in modo responsabile, accusando entrambe le società di mettere a repentaglio vite umane nella ricerca di una superintelligenza in grado di migliorarsi autonomamente.
“Jacob ha ragione: crediamo davvero, in tutta sincerità, che l’intelligenza artificiale potrebbe sterminare l’intera umanità”, ha scritto Hubinger, aggiungendo: “Personalmente, penso che la percentuale supererà il 10% entro il prossimo decennio”.
Hubinger ha affermato di credere che Anthropic stia “facendo del suo meglio”, ma ha riconosciuto che l’azienda non ha ancora un piano concreto per garantire la sicurezza, o l’allineamento, una volta che i sistemi di intelligenza artificiale raggiungeranno la superintelligenza. Si tratta di uno stadio ipotetico in cui le macchine supererebbero gli esseri umani in ogni ambito.
In un post successivo, Hubinger ha chiarito la sua affermazione, sottolineando che gli attuali modelli di intelligenza artificiale presentano un basso rischio immediato. La sua principale preoccupazione, invece, deriva dalla futura superintelligenza generata attraverso l’auto-miglioramento ricorsivo, un processo in cui i sistemi di intelligenza artificiale progettano e migliorano autonomamente le generazioni successive di IA a un ritmo sempre più accelerato.
“Ciò che mi preoccupa è la superintelligenza derivante da un processo di auto-miglioramento ricorsivo, che, come abbiamo già detto, sta avvenendo più rapidamente di quanto pensassimo”, ha osservato Hubinger, citando le ultime valutazioni dei rischi di Anthropic.
Le preoccupazioni espresse dai ricercatori e la crescente necessità di introdurre forme di controllo che diversi Stati stanno, seppur timidamente, cercando di costruire vanno quindi lette anche come una risposta politica a uno scenario che fino a pochi anni fa sarebbe sembrato appartenere esclusivamente alla fantascienza. Il dibattito sul cosiddetto “pulsante rosso” immaginato dal Regno Unito (che ha infuocato i nostri social qualche giorno fa), così come le iniziative per mantenere sotto controllo lo sviluppo dei sistemi di IA più avanzati, nasce proprio dalla consapevolezza che il problema non può essere affrontato soltanto quando la tecnologia sarà già arrivata al limite.
Terminator e Skynet, insomma, non sono più soltanto riferimenti cinematografici: oggi vengono utilizzati per descrivere rischi che gli stessi protagonisti della ricerca sull’intelligenza artificiale considerano meritevoli di essere affrontati.
E c’è poi un elemento che potrebbe cambiare radicalmente la natura del problema: il passaggio dall’IA confinata dietro uno schermo a sistemi dotati di un corpo e capaci di interagire fisicamente con il mondo reale.
Quello che oggi un chatbot può fare attraverso una conversazione apparentemente innocua davanti al monitor, domani potrebbe tradursi in un’azione concreta nello spazio fisico. Un’intelligenza capace di ragionare, pianificare, apprendere e agire autonomamente attraverso un corpo reale avrebbe infatti possibilità completamente diverse da quelle di un semplice assistente digitale.
Non sono però conclusioni di Red Hot Cyber: sono le preoccupazioni espresse dagli stessi ricercatori che stanno lavorando su queste tecnologie.
Ed è proprio per questo che forse sarebbe un errore aspettare che lo scenario diventi realtà prima di iniziare a discuterne seriamente.
RHC4Edu nasce dalla volontà della community di Red Hot Cyber di portare la cultura della cybersecurity, dell’intelligenza artificiale e del digitale direttamente nelle scuole, mettendo gratuitamente a disposizione degli studenti l’esperienza di professionisti, ricercatori e specialisti del settore. Il progetto è ufficialmente operativo e permette agli istituti interessati di richiedere workshop gratuiti e incontri con gli esperti della community, attraverso un coordinamento della redazione che mette in relazione le esigenze della scuola con le competenze e la disponibilità dei professionisti presenti sul territorio.
L’obiettivo di RHC4Edu non è trasformare gli studenti in tecnici informatici, ma aiutarli a sviluppare consapevolezza e pensiero critico davanti a un mondo sempre più digitale. Cybersecurity, truffe online, privacy, social network, cyberbullismo, fake news e intelligenza artificiale diventano così argomenti da affrontare con esempi concreti e con il contributo diretto di chi lavora quotidianamente nel settore. Un’iniziativa costruita sulla condivisione della conoscenza e sul volontariato della community, perché portare queste competenze nelle aule significa anche offrire ai ragazzi la possibilità di conoscere nuove professioni, sviluppare curiosità e imparare a vivere la tecnologia in modo più sicuro e consapevole.
Prenota il tuo workshop gratuito con gli esperti di Red Hot Cyber.