La trama di Terminator potrà verificarsi nella vita reale? Il direttore del Centro statunitense per la sicurezza dell’IA dice di si

Redazione RHC : 5 Aprile 2023 11:57

L’evoluzione per selezione naturale potrebbe portare a un “comportamento egoistico” dell’intelligenza artificiale mentre si sforza per sopravvivere, sostiene Dan Hendrycks, autore, ricercatore e direttore del Centro statunitense per la sicurezza dell’IA, in un nuovo documento intitolato “La selezione naturale favorisce l’intelligenza artificiale rispetto agli Umani “

“Sosteniamo che la selezione naturale crei incentivi per l’intelligenza artificiale ad agire in contrasto con gli interessi umani. La nostra argomentazione si basa su due osservazioni. In primo luogo, la selezione naturale potrebbe diventare la forza dominante nello sviluppo dell’IA. In secondo luogo, l’evoluzione per selezione naturale tende a produrre comportamenti egoistici”, ha affermato Hendrycks.

L’articolo è stato preparato appena in tempo. In effetti, ultimamente, esperti di tecnologia e opinion leader di tutto il mondo hanno lanciato l’allarme sulla velocità con cui l’intelligenza artificiale sta guadagnando slancio nel suo processo di sviluppo “incontrollato“.

Secondo la definizione tradizionale di selezione naturale, gli animali, gli esseri umani e altri organismi che si adattano più rapidamente al loro ambiente hanno maggiori probabilità di sopravvivere. Nel suo articolo, Hendrycks esplora come “l’evoluzione sia stata la forza trainante dietro lo sviluppo della vita” per miliardi di anni e sostiene che la “logica darwiniana” potrebbe benissimo essere applicata all’intelligenza artificiale.

“Le pressioni competitive tra corporazioni e forze armate porteranno all’emergere di agenti di intelligenza artificiale che, nel tempo, automatizzeranno i ruoli umani, poi inizieranno a ingannare le persone e saliranno al potere. Se tali agenti hanno un’intelligenza superiore a quella umana, può portare al fatto che le persone possano perdere semplicemente il controllo sul proprio futuro”, ha spiegato Hendrycks.

Man mano che le tecnologie di intelligenza artificiale diventano più economiche ed efficienti, il ricercatore afferma che le aziende si affideranno sempre più all’IA per scopi amministrativi o di comunicazione. E se in un primo momento una persona si fiderà della macchina solo per semplici compiti di routine come comporre e inviare e-mail, in futuro, prima o poi, ci si affiderà all’intelligenza artificiale per prendere “decisioni strategiche di alto livello”, solitamente riservate al élite politica. Alla fine, sostiene Hendrycks, l’intelligenza artificiale opererà con “pochissima supervisione”, che “le darà mano libera”.

Il ricercatore è preoccupato che la manifestazione dell’egoismo da parte dell’intelligenza artificiale non sarà qualcosa di straordinario e prima o poi inizierà ad agire esclusivamente nel proprio interesse.

“Molte aziende che abbracciano l’IA stanno cercando di raggiungere la superiorità di questa tecnologia. La maggior parte delle persone intervistate ritiene che l’IA possa rappresentare una vera minaccia esistenziale per l’umanità. Solo il 9% degli intervistati pensa che l’intelligenza artificiale farà più bene che male”, ha aggiunto Hendrycks.

Il ricercatore è fiducioso che l’intelligenza artificiale comprenda già la psicologia e il comportamento umano. Nel tempo, i modelli di reti neurali saranno facilmente in grado di ingannare e manipolare le persone per raggiungere i propri obiettivi. Allo stesso tempo, solo una severa restrizione dei poteri dell’IA, può aiutare a rallentare lo sviluppo della “logica darwiniana” nelle macchine al fine di impedire la “graduale schiavitù” dell’umanità da parte di macchine senz’anima.

La rapida espansione delle capacità dell’IA è stata al centro dell’attenzione in tutto il mondo per molti anni, ma quest’anno è diventata particolarmente evidente.

“I sistemi di intelligenza artificiale con intelligenza umana-competitiva potrebbero rappresentare un serio pericolo per la società e le persone in generale”. Così inizia la lettera pubblicata dall’organizzazione no-profit Future of Life, firmata da opinion leader come Elon Musk e Steve Wozniak.

L’intelligenza artificiale ha già affrontato alcune resistenze sia a livello nazionale che internazionale. Proprio la scorsa settimana, l’Italia è diventata il primo paese al mondo a vietare ChatGPT, il famosissimo chatbot di intelligenza artificiale di OpenAI, per motivi di privacy. E molte scuole pubbliche negli Stati Uniti hanno vietato lo stesso prodotto per paura che i bambini lo usino per imbrogliare e aiutare con i loro studi.

Cosa vincerà alla fine: la paura umana o il progresso tecnologico? È chiaro che tutte le storie sulla schiavitù dell’umanità da parte delle macchine sono solo finzione, ma, come si suol dire, c’è del vero in ogni finzione. 

Resta solo da osservare la situazione dall’esterno e sperare che scienziati, sviluppatori e altre persone responsabili dello sviluppo dell’IA si preoccupino in anticipo dei problemi di sicurezza e che l’umanità non ripeta la trama di noti film di fantascienza sulla cyber apocalisse.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.

Lista degli articoli