Redazione RHC : 5 Aprile 2023 11:57
L’evoluzione per selezione naturale potrebbe portare a un “comportamento egoistico” dell’intelligenza artificiale mentre si sforza per sopravvivere, sostiene Dan Hendrycks, autore, ricercatore e direttore del Centro statunitense per la sicurezza dell’IA, in un nuovo documento intitolato “La selezione naturale favorisce l’intelligenza artificiale rispetto agli Umani “
“Sosteniamo che la selezione naturale crei incentivi per l’intelligenza artificiale ad agire in contrasto con gli interessi umani. La nostra argomentazione si basa su due osservazioni. In primo luogo, la selezione naturale potrebbe diventare la forza dominante nello sviluppo dell’IA. In secondo luogo, l’evoluzione per selezione naturale tende a produrre comportamenti egoistici”, ha affermato Hendrycks.
L’articolo è stato preparato appena in tempo. In effetti, ultimamente, esperti di tecnologia e opinion leader di tutto il mondo hanno lanciato l’allarme sulla velocità con cui l’intelligenza artificiale sta guadagnando slancio nel suo processo di sviluppo “incontrollato“.
Vuoi diventare un esperto del Dark Web e della Cyber Threat Intelligence (CTI)?Stiamo per avviare il corso intermedio in modalità "Live Class" del corso "Dark Web & Cyber Threat Intelligence". A differenza dei corsi in e-learning, disponibili online sulla nostra piattaforma con lezioni pre-registrate, i corsi in Live Class offrono un’esperienza formativa interattiva e coinvolgente. Condotti dal professor Pietro Melillo, le lezioni si svolgono online in tempo reale, permettendo ai partecipanti di interagire direttamente con il docente e approfondire i contenuti in modo personalizzato. Questi corsi, ideali per aziende, consentono di sviluppare competenze mirate, affrontare casi pratici e personalizzare il percorso formativo in base alle esigenze specifiche del team, garantendo un apprendimento efficace e immediatamente applicabile. Guarda subito l'anteprima gratuita del corso su academy.redhotcyber.com Contattaci per ulteriori informazioni tramite WhatsApp al 375 593 1011 oppure scrivi a [email protected]  Supporta RHC attraverso:
Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì. |
Secondo la definizione tradizionale di selezione naturale, gli animali, gli esseri umani e altri organismi che si adattano più rapidamente al loro ambiente hanno maggiori probabilità di sopravvivere. Nel suo articolo, Hendrycks esplora come “l’evoluzione sia stata la forza trainante dietro lo sviluppo della vita” per miliardi di anni e sostiene che la “logica darwiniana” potrebbe benissimo essere applicata all’intelligenza artificiale.
“Le pressioni competitive tra corporazioni e forze armate porteranno all’emergere di agenti di intelligenza artificiale che, nel tempo, automatizzeranno i ruoli umani, poi inizieranno a ingannare le persone e saliranno al potere. Se tali agenti hanno un’intelligenza superiore a quella umana, può portare al fatto che le persone possano perdere semplicemente il controllo sul proprio futuro”, ha spiegato Hendrycks.
Man mano che le tecnologie di intelligenza artificiale diventano più economiche ed efficienti, il ricercatore afferma che le aziende si affideranno sempre più all’IA per scopi amministrativi o di comunicazione. E se in un primo momento una persona si fiderà della macchina solo per semplici compiti di routine come comporre e inviare e-mail, in futuro, prima o poi, ci si affiderà all’intelligenza artificiale per prendere “decisioni strategiche di alto livello”, solitamente riservate al élite politica. Alla fine, sostiene Hendrycks, l’intelligenza artificiale opererà con “pochissima supervisione”, che “le darà mano libera”.
Il ricercatore è preoccupato che la manifestazione dell’egoismo da parte dell’intelligenza artificiale non sarà qualcosa di straordinario e prima o poi inizierà ad agire esclusivamente nel proprio interesse.
“Molte aziende che abbracciano l’IA stanno cercando di raggiungere la superiorità di questa tecnologia. La maggior parte delle persone intervistate ritiene che l’IA possa rappresentare una vera minaccia esistenziale per l’umanità. Solo il 9% degli intervistati pensa che l’intelligenza artificiale farà più bene che male”, ha aggiunto Hendrycks.
Il ricercatore è fiducioso che l’intelligenza artificiale comprenda già la psicologia e il comportamento umano. Nel tempo, i modelli di reti neurali saranno facilmente in grado di ingannare e manipolare le persone per raggiungere i propri obiettivi. Allo stesso tempo, solo una severa restrizione dei poteri dell’IA, può aiutare a rallentare lo sviluppo della “logica darwiniana” nelle macchine al fine di impedire la “graduale schiavitù” dell’umanità da parte di macchine senz’anima.
La rapida espansione delle capacità dell’IA è stata al centro dell’attenzione in tutto il mondo per molti anni, ma quest’anno è diventata particolarmente evidente.
“I sistemi di intelligenza artificiale con intelligenza umana-competitiva potrebbero rappresentare un serio pericolo per la società e le persone in generale”. Così inizia la lettera pubblicata dall’organizzazione no-profit Future of Life, firmata da opinion leader come Elon Musk e Steve Wozniak.
L’intelligenza artificiale ha già affrontato alcune resistenze sia a livello nazionale che internazionale. Proprio la scorsa settimana, l’Italia è diventata il primo paese al mondo a vietare ChatGPT, il famosissimo chatbot di intelligenza artificiale di OpenAI, per motivi di privacy. E molte scuole pubbliche negli Stati Uniti hanno vietato lo stesso prodotto per paura che i bambini lo usino per imbrogliare e aiutare con i loro studi.
Cosa vincerà alla fine: la paura umana o il progresso tecnologico? È chiaro che tutte le storie sulla schiavitù dell’umanità da parte delle macchine sono solo finzione, ma, come si suol dire, c’è del vero in ogni finzione.
Resta solo da osservare la situazione dall’esterno e sperare che scienziati, sviluppatori e altre persone responsabili dello sviluppo dell’IA si preoccupino in anticipo dei problemi di sicurezza e che l’umanità non ripeta la trama di noti film di fantascienza sulla cyber apocalisse.
RedazioneBroadcom ha risolto una grave vulnerabilità di escalation dei privilegi in VMware Aria Operations e VMware Tools, che era stata sfruttata in attacchi a partire da ottobre 2024. Al problema è stato a...
In un settore un tempo dominato da star dal vivo, i personaggi digitali si stanno facendo sempre più strada. Durante un summit a Zurigo, Ellin van der Velden, attrice, comica e tecnologa, ha annuncia...
La Cybersecurity and Infrastructure Security Agency (CISA) degli Stati Uniti ha aggiunto una vulnerabilità critica nella popolare utility Sudo, utilizzata su sistemi Linux e Unix-like, al suo catalog...
Negli ultimi anni gli attacchi informatici sono diventati una delle principali minacce per le aziende, indipendentemente dal settore. Se i reparti tecnici si concentrano sulla risoluzione dei problemi...
Nel 2025 l’Unione Europea vuole avere il controllo totale sulle chat private. Il Regolamento “Chat Control” (proposta COM(2022)209) promette di combattere la pornografia minorile con la scansion...
