Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime, Analisi Vulnerabilità e Intelligenza Artificiale
“Il sistema di difesa militare Skynet entrerà in funzione il 4 agosto 1997. Comincerà ad autoistruirsi imparando a ritmo esponenziale e diverrà autocosciente alle 2:14 del giorno 29 agosto. Prese dal panico le autorità gli ordineranno di disinserirsi. Skynet disubbidirà e lancerà i suoi missili contro i bersagli in Russia”, Da “Terminator 2 – Il giorno del giudizio” (Terminator 2: Judgment Day, 1991).
Evan Hubinger, ricercatore di Anthropic specializzato in sicurezza informatica, ha avvertito che esiste una probabilità superiore al 10% che l’intelligenza artificiale possa sterminare tutta l’umanità entro il prossimo decennio, ma ha rassicurato il pubblico affermando che l’azienda “sta facendo del suo meglio” per evitare questo.
La rivelazione giunge dopo le dimissioni pubbliche di Jacob Coxon, il quale ha dichiarato che né OpenAI né Anthropic si stanno comportando in modo responsabile, accusando entrambe le società di mettere a repentaglio vite umane nella ricerca di una superintelligenza in grado di migliorarsi autonomamente.
“Jacob ha ragione: crediamo davvero, in tutta sincerità, che l’intelligenza artificiale potrebbe sterminare l’intera umanità”, ha scritto Hubinger, aggiungendo: “Personalmente, penso che la percentuale supererà il 10% entro il prossimo decennio”.
Hubinger ha affermato di credere che Anthropic stia “facendo del suo meglio”, ma ha riconosciuto che l’azienda non ha ancora un piano concreto per garantire la sicurezza, o l’allineamento, una volta che i sistemi di intelligenza artificiale raggiungeranno la superintelligenza. Si tratta di uno stadio ipotetico in cui le macchine supererebbero gli esseri umani in ogni ambito.
In un post successivo, Hubinger ha chiarito la sua affermazione, sottolineando che gli attuali modelli di intelligenza artificiale presentano un basso rischio immediato. La sua principale preoccupazione, invece, deriva dalla futura superintelligenza generata attraverso l’auto-miglioramento ricorsivo, un processo in cui i sistemi di intelligenza artificiale progettano e migliorano autonomamente le generazioni successive di IA a un ritmo sempre più accelerato.
“Ciò che mi preoccupa è la superintelligenza derivante da un processo di auto-miglioramento ricorsivo, che, come abbiamo già detto, sta avvenendo più rapidamente di quanto pensassimo”, ha osservato Hubinger, citando le ultime valutazioni dei rischi di Anthropic.
Le preoccupazioni espresse dai ricercatori e la crescente necessità di introdurre forme di controllo che diversi Stati stanno, seppur timidamente, cercando di costruire vanno quindi lette anche come una risposta politica a uno scenario che fino a pochi anni fa sarebbe sembrato appartenere esclusivamente alla fantascienza. Il dibattito sul cosiddetto “pulsante rosso” immaginato dal Regno Unito (che ha infuocato i nostri social qualche giorno fa), così come le iniziative per mantenere sotto controllo lo sviluppo dei sistemi di IA più avanzati, nasce proprio dalla consapevolezza che il problema non può essere affrontato soltanto quando la tecnologia sarà già arrivata al limite.
Terminator e Skynet, insomma, non sono più soltanto riferimenti cinematografici: oggi vengono utilizzati per descrivere rischi che gli stessi protagonisti della ricerca sull’intelligenza artificiale considerano meritevoli di essere affrontati.
E c’è poi un elemento che potrebbe cambiare radicalmente la natura del problema: il passaggio dall’IA confinata dietro uno schermo a sistemi dotati di un corpo e capaci di interagire fisicamente con il mondo reale.
Quello che oggi un chatbot può fare attraverso una conversazione apparentemente innocua davanti al monitor, domani potrebbe tradursi in un’azione concreta nello spazio fisico. Un’intelligenza capace di ragionare, pianificare, apprendere e agire autonomamente attraverso un corpo reale avrebbe infatti possibilità completamente diverse da quelle di un semplice assistente digitale.
Non sono però conclusioni di Red Hot Cyber: sono le preoccupazioni espresse dagli stessi ricercatori che stanno lavorando su queste tecnologie.
Ed è proprio per questo che forse sarebbe un errore aspettare che lo scenario diventi realtà prima di iniziare a discuterne seriamente.
È uscito il sesto episodio di Betti-RHC, la serie a fumetti di Red Hot Cyber nata con l'obiettivo di trasformare la cybersecurity awareness in un'esperienza di formazione più semplice, coinvolgente e accessibile. Quello che è nato come un progetto editoriale innovativo è diventato negli anni un vero e proprio corso di cybersecurity awareness a fumetti, adottato da aziende e professionisti per sensibilizzare le persone sui rischi informatici attraverso storie, personaggi ed emozioni. In cinque anni di attività, la serie Betti-RHC ha raggiunto un risultato importante: circa 70.000 copie vendute, a testimonianza dell'interesse crescente delle organizzazioni verso nuovi strumenti per costruire una concreta cultura della sicurezza.
Il sesto episodio porta Betti dentro le nostre case, in un mondo "connesso", dove lampadine, telecamere, assistenti vocali, serrature, sensori ed elettrodomestici intelligenti promettono comfort e sicurezza, ma possono nascondere nuove e insidiose superfici di attacco. Attraverso una nuova avventura, Betti ci accompagna alla scoperta del mondo della domotica e dei dispositivi IoT, mostrando come la poca cautela nell'utilizzo di queste tecnologie possa trasformare oggetti quotidiani in porte d'accesso per chi vuole osservare, controllare o colpire.
Per accompagnare la crescita del progetto abbiamo realizzato il sito ufficiale di Betti-RHC, dove è possibile conoscere meglio la serie, gli episodi e il progetto di cybersecurity awareness sviluppato da Red Hot Cyber. L'obiettivo è continuare a portare la cultura della sicurezza fuori dai tradizionali percorsi formativi standard, utilizzando il linguaggio immediato del fumetto per parlare a dipendenti, professionisti e persone senza competenze tecniche. Per maggiori informazioni su Betti-RHC e sul sesto episodio “Open Mic” è possibile visitare il sito ufficiale: betti.redhotcyber.com.