Redazione RHC : 5 Aprile 2023 11:57
L’evoluzione per selezione naturale potrebbe portare a un “comportamento egoistico” dell’intelligenza artificiale mentre si sforza per sopravvivere, sostiene Dan Hendrycks, autore, ricercatore e direttore del Centro statunitense per la sicurezza dell’IA, in un nuovo documento intitolato “La selezione naturale favorisce l’intelligenza artificiale rispetto agli Umani “
“Sosteniamo che la selezione naturale crei incentivi per l’intelligenza artificiale ad agire in contrasto con gli interessi umani. La nostra argomentazione si basa su due osservazioni. In primo luogo, la selezione naturale potrebbe diventare la forza dominante nello sviluppo dell’IA. In secondo luogo, l’evoluzione per selezione naturale tende a produrre comportamenti egoistici”, ha affermato Hendrycks.
L’articolo è stato preparato appena in tempo. In effetti, ultimamente, esperti di tecnologia e opinion leader di tutto il mondo hanno lanciato l’allarme sulla velocità con cui l’intelligenza artificiale sta guadagnando slancio nel suo processo di sviluppo “incontrollato“.
 Scarica Gratuitamente Byte The Silence, il fumetto sul Cyberbullismo di Red Hot Cyber"Il cyberbullismo è una delle minacce più insidiose e silenziose che colpiscono i nostri ragazzi. Non si tratta di semplici "bravate online", ma di veri e propri atti di violenza digitale, capaci di lasciare ferite profonde e spesso irreversibili nell’animo delle vittime. Non possiamo più permetterci di chiudere gli occhi". Così si apre la prefazione del fumetto di Massimiliano Brolli, fondatore di Red Hot Cyber, un’opera che affronta con sensibilità e realismo uno dei temi più urgenti della nostra epoca. Distribuito gratuitamente, questo fumetto nasce con l'obiettivo di sensibilizzare e informare. È uno strumento pensato per scuole, insegnanti, genitori e vittime, ma anche per chi, per qualsiasi ragione, si è ritrovato nel ruolo del bullo, affinché possa comprendere, riflettere e cambiare. Con la speranza che venga letto, condiviso e discusso, Red Hot Cyber è orgogliosa di offrire un contributo concreto per costruire una cultura digitale più consapevole, empatica e sicura. Contattaci tramite WhatsApp al numero 375 593 1011 per richiedere ulteriori informazioni oppure alla casella di posta [email protected]
Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì. |
Secondo la definizione tradizionale di selezione naturale, gli animali, gli esseri umani e altri organismi che si adattano più rapidamente al loro ambiente hanno maggiori probabilità di sopravvivere. Nel suo articolo, Hendrycks esplora come “l’evoluzione sia stata la forza trainante dietro lo sviluppo della vita” per miliardi di anni e sostiene che la “logica darwiniana” potrebbe benissimo essere applicata all’intelligenza artificiale.
“Le pressioni competitive tra corporazioni e forze armate porteranno all’emergere di agenti di intelligenza artificiale che, nel tempo, automatizzeranno i ruoli umani, poi inizieranno a ingannare le persone e saliranno al potere. Se tali agenti hanno un’intelligenza superiore a quella umana, può portare al fatto che le persone possano perdere semplicemente il controllo sul proprio futuro”, ha spiegato Hendrycks.
Man mano che le tecnologie di intelligenza artificiale diventano più economiche ed efficienti, il ricercatore afferma che le aziende si affideranno sempre più all’IA per scopi amministrativi o di comunicazione. E se in un primo momento una persona si fiderà della macchina solo per semplici compiti di routine come comporre e inviare e-mail, in futuro, prima o poi, ci si affiderà all’intelligenza artificiale per prendere “decisioni strategiche di alto livello”, solitamente riservate al élite politica. Alla fine, sostiene Hendrycks, l’intelligenza artificiale opererà con “pochissima supervisione”, che “le darà mano libera”.
Il ricercatore è preoccupato che la manifestazione dell’egoismo da parte dell’intelligenza artificiale non sarà qualcosa di straordinario e prima o poi inizierà ad agire esclusivamente nel proprio interesse.
“Molte aziende che abbracciano l’IA stanno cercando di raggiungere la superiorità di questa tecnologia. La maggior parte delle persone intervistate ritiene che l’IA possa rappresentare una vera minaccia esistenziale per l’umanità. Solo il 9% degli intervistati pensa che l’intelligenza artificiale farà più bene che male”, ha aggiunto Hendrycks.
Il ricercatore è fiducioso che l’intelligenza artificiale comprenda già la psicologia e il comportamento umano. Nel tempo, i modelli di reti neurali saranno facilmente in grado di ingannare e manipolare le persone per raggiungere i propri obiettivi. Allo stesso tempo, solo una severa restrizione dei poteri dell’IA, può aiutare a rallentare lo sviluppo della “logica darwiniana” nelle macchine al fine di impedire la “graduale schiavitù” dell’umanità da parte di macchine senz’anima.
La rapida espansione delle capacità dell’IA è stata al centro dell’attenzione in tutto il mondo per molti anni, ma quest’anno è diventata particolarmente evidente.
“I sistemi di intelligenza artificiale con intelligenza umana-competitiva potrebbero rappresentare un serio pericolo per la società e le persone in generale”. Così inizia la lettera pubblicata dall’organizzazione no-profit Future of Life, firmata da opinion leader come Elon Musk e Steve Wozniak.
L’intelligenza artificiale ha già affrontato alcune resistenze sia a livello nazionale che internazionale. Proprio la scorsa settimana, l’Italia è diventata il primo paese al mondo a vietare ChatGPT, il famosissimo chatbot di intelligenza artificiale di OpenAI, per motivi di privacy. E molte scuole pubbliche negli Stati Uniti hanno vietato lo stesso prodotto per paura che i bambini lo usino per imbrogliare e aiutare con i loro studi.
Cosa vincerà alla fine: la paura umana o il progresso tecnologico? È chiaro che tutte le storie sulla schiavitù dell’umanità da parte delle macchine sono solo finzione, ma, come si suol dire, c’è del vero in ogni finzione.
Resta solo da osservare la situazione dall’esterno e sperare che scienziati, sviluppatori e altre persone responsabili dello sviluppo dell’IA si preoccupino in anticipo dei problemi di sicurezza e che l’umanità non ripeta la trama di noti film di fantascienza sulla cyber apocalisse.
RedazioneUn nuovo annuncio pubblicato su un forum underground è stato rilevato poco fa dai ricercatori del laboratorio di intelligence sulle minacce di Dark Lab e mostra chiaramente quanto sia ancora attivo e...
Tre importanti gruppi di ransomware – DragonForce, Qilin e LockBit – hanno annunciato un’alleanza. Si tratta essenzialmente di un tentativo di coordinare le attività di diversi importanti opera...
Sarebbe fantastico avere un agente AI capace di analizzare automaticamente il codice dei nostri progetti, individuare i bug di sicurezza, generare la correzione e pubblicarla subito in produzione. Epp...
La disillusione nei confronti degli incontri online spinge sempre più le donne a cercare intimità emotiva nel mondo virtuale. Sempre più donne si rivolgono all’intelligenza artificiale, ovvero ai...
Una falla critica di 13 anni, nota come RediShell, presente in Redis, permette l’esecuzione di codice remoto (RCE) e offre agli aggressori la possibilità di acquisire il pieno controllo del sistema...
