Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime, Analisi Vulnerabilità e Intelligenza Artificiale
Evan Hubinger di Anthropic stima oltre il 10% di probabilità che una futura superintelligenza possa sterminare l'umanità entro il prossimo decennio. Il rischio, secondo il ricercatore, non riguarda soprattutto i modelli attuali, ma l'auto-miglioramento ricorsivo dei sistemi IA, che potrebbe accelerare oltre le capacità di controllo umano.
“Il sistema di difesa militare Skynet entrerà in funzione il 4 agosto 1997. Comincerà ad autoistruirsi imparando a ritmo esponenziale e diverrà autocosciente alle 2:14 del giorno 29 agosto. Prese dal panico le autorità gli ordineranno di disinserirsi. Skynet disubbidirà e lancerà i suoi missili contro i bersagli in Russia”, Da “Terminator 2 – Il giorno del giudizio” (Terminator 2: Judgment Day, 1991).
Evan Hubinger, ricercatore di Anthropic specializzato in sicurezza informatica, ha avvertito che esiste una probabilità superiore al 10% che l’intelligenza artificiale possa sterminare tutta l’umanità entro il prossimo decennio, ma ha rassicurato il pubblico affermando che l’azienda “sta facendo del suo meglio” per evitare questo.
La rivelazione giunge dopo le dimissioni pubbliche di Jacob Coxon, il quale ha dichiarato che né OpenAI né Anthropic si stanno comportando in modo responsabile, accusando entrambe le società di mettere a repentaglio vite umane nella ricerca di una superintelligenza in grado di migliorarsi autonomamente.
“Jacob ha ragione: crediamo davvero, in tutta sincerità, che l’intelligenza artificiale potrebbe sterminare l’intera umanità”, ha scritto Hubinger, aggiungendo: “Personalmente, penso che la percentuale supererà il 10% entro il prossimo decennio”.
Hubinger ha affermato di credere che Anthropic stia “facendo del suo meglio”, ma ha riconosciuto che l’azienda non ha ancora un piano concreto per garantire la sicurezza, o l’allineamento, una volta che i sistemi di intelligenza artificiale raggiungeranno la superintelligenza. Si tratta di uno stadio ipotetico in cui le macchine supererebbero gli esseri umani in ogni ambito.
In un post successivo, Hubinger ha chiarito la sua affermazione, sottolineando che gli attuali modelli di intelligenza artificiale presentano un basso rischio immediato. La sua principale preoccupazione, invece, deriva dalla futura superintelligenza generata attraverso l’auto-miglioramento ricorsivo, un processo in cui i sistemi di intelligenza artificiale progettano e migliorano autonomamente le generazioni successive di IA a un ritmo sempre più accelerato.
“Ciò che mi preoccupa è la superintelligenza derivante da un processo di auto-miglioramento ricorsivo, che, come abbiamo già detto, sta avvenendo più rapidamente di quanto pensassimo”, ha osservato Hubinger, citando le ultime valutazioni dei rischi di Anthropic.
Le preoccupazioni espresse dai ricercatori e la crescente necessità di introdurre forme di controllo che diversi Stati stanno, seppur timidamente, cercando di costruire vanno quindi lette anche come una risposta politica a uno scenario che fino a pochi anni fa sarebbe sembrato appartenere esclusivamente alla fantascienza. Il dibattito sul cosiddetto “pulsante rosso” immaginato dal Regno Unito (che ha infuocato i nostri social qualche giorno fa), così come le iniziative per mantenere sotto controllo lo sviluppo dei sistemi di IA più avanzati, nasce proprio dalla consapevolezza che il problema non può essere affrontato soltanto quando la tecnologia sarà già arrivata al limite.
Terminator e Skynet, insomma, non sono più soltanto riferimenti cinematografici: oggi vengono utilizzati per descrivere rischi che gli stessi protagonisti della ricerca sull’intelligenza artificiale considerano meritevoli di essere affrontati.
E c’è poi un elemento che potrebbe cambiare radicalmente la natura del problema: il passaggio dall’IA confinata dietro uno schermo a sistemi dotati di un corpo e capaci di interagire fisicamente con il mondo reale.
Quello che oggi un chatbot può fare attraverso una conversazione apparentemente innocua davanti al monitor, domani potrebbe tradursi in un’azione concreta nello spazio fisico. Un’intelligenza capace di ragionare, pianificare, apprendere e agire autonomamente attraverso un corpo reale avrebbe infatti possibilità completamente diverse da quelle di un semplice assistente digitale.
Non sono però conclusioni di Red Hot Cyber: sono le preoccupazioni espresse dagli stessi ricercatori che stanno lavorando su queste tecnologie.
Ed è proprio per questo che forse sarebbe un errore aspettare che lo scenario diventi realtà prima di iniziare a discuterne seriamente.
Sono ufficialmente aperte le adesioni al Program Sponsor della Red Hot Cyber Conference 2027, la sesta edizione dell’evento annuale gratuito promosso dalla community di Red Hot Cyber per diffondere cultura, competenze e consapevolezza sui temi della cybersecurity, dell’innovazione e delle tecnologie digitali. La Conference si terrà a Roma, martedì 18 e mercoledì 19 maggio 2027, presso l’Auditorium del Seraphicum, nel cuore del quartiere EUR, con una giornata dedicata ai workshop pratici e alle attività tecniche e una seconda giornata interamente dedicata alla conferenza.
Anche per il 2027, le aziende potranno scegliere di sostenere concretamente il progetto attraverso il Program Sponsor, partecipando alla crescita di un appuntamento che mette in relazione professionisti, aziende, istituzioni, studenti, ricercatori e appassionati di tecnologia. Il programma prevede la possibilità di aderire come Sponsor Sostenitore, una formula pensata per le aziende che desiderano essere tra le prime realtà a credere e contribuire alla realizzazione della nuova edizione, oppure attraverso i tre consueti livelli di sponsorizzazione Platinum, Gold e Silver. Ogni livello di sponsorizzazione acquistato, sarà accompagnato da un pacchetto Advertising, con l'opportunità di visibilità attraverso articoli, banner e contenuti all’interno del circuito editoriale di Red Hot Cyber.
Le aziende interessate a conoscere le formule disponibili, il Media Kit e tutte le opportunità previste dal Program Sponsor 2027 possono richiedere informazioni scrivendo a [email protected].