Le IA potrebbero innescare una crisi finanziaria catastrofica. Yuval Noah Harari sottolinea una pausa di sei mesi

L’intelligenza artificiale (IA) potrebbe scatenare una crisi finanziaria con conseguenze “catastrofiche”, avverte lo storico e scrittore Yuval Noah Harari. Sottolinea la complessità nel prevedere i pericoli associati all’IA a causa della sua natura sofisticata.

A differenza degli scenari legati alle armi nucleari, dove esiste una minaccia singola e ben compresa, l’IA introduce una moltitudine di possibili pericoli. Ciascuno ha una probabilità relativamente bassa. Harari sottolinea che l’effetto cumulativo di questi scenari costituisce una minaccia esistenziale per la civiltà umana.

Esprimendo preoccupazioni sulla sicurezza dei test dei modelli di IA, Harari sottolinea le sfide uniche poste dall’IA. A differenza delle tecnologie precedenti, l’IA ha la capacità di prendere decisioni in modo indipendente, generare nuove idee e imparare ed evolversi autonomamente. Questa autonomia rende estremamente difficile per gli esseri umani, anche per i creatori della tecnologia, anticipare tutti i potenziali pericoli e problemi.

Avvio delle iscrizioni al corso Cyber Offensive Fundamentals Vuoi smettere di guardare tutorial e iniziare a capire davvero come funziona la sicurezza informatica? La base della sicurezza informatica, al di là di norme e tecnologie, ha sempre un unico obiettivo: fermare gli attacchi dei criminali informatici. Pertanto "Pensa come un attaccante, agisci come un difensore". Ti porteremo nel mondo dell'ethical hacking e del penetration test come nessuno ha mai fatto prima. Per informazioni potete accedere alla pagina del corso oppure contattarci tramite WhatsApp al numero 379 163 8765 oppure scrivendoci alla casella di posta [email protected]. Supporta Red Hot Cyber attraverso:  L'acquisto del fumetto sul Cybersecurity Awareness Ascoltando i nostri Podcast Seguendo RHC su WhatsApp Seguendo RHC su Telegram Scarica gratuitamente “Byte The Silence”, il fumetto sul Cyberbullismo di Red Hot Cyber Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì.

Harari considera la recente dichiarazione multilaterale al vertice globale sulla sicurezza dell’IA a Bletchley Park come un passo cruciale avanti. La partecipazione di governi di spicco, tra cui l’Unione Europea, il Regno Unito, gli Stati Uniti e, soprattutto, la Cina, rappresenta un segnale positivo. La cooperazione globale è considerata essenziale per affrontare efficacemente gli aspetti più pericolosi dell’IA.

Durante il vertice, dieci governi, tra cui Regno Unito e Stati Uniti (escludendo la Cina), l’UE e importanti aziende di IA, come OpenAI e Google, hanno concordato di collaborare nei test dei modelli di IA avanzati prima e dopo il loro rilascio.

Sostenendo la prudenza nello sviluppo avanzato dell’IA, Harari supporta una pausa di sei mesi e chiede che le aziende di IA siano responsabili dei danni causati dai loro prodotti. Egli sottolinea la necessità di istituzioni regolatorie dotate di conoscenze tecnologiche per rispondere prontamente alle nuove scoperte, anziché concentrarsi esclusivamente su regolamentazioni e leggi specifiche.

Met­tendo in evi­den­za la finanza come un settore particolarmente adatto all’IA, Harari mette in guardia sul potenziale dell’IA nel creare strumenti finanziari altamente complessi che superano la comprensione umana. Paragonando la situazione alla crisi finanziaria del 2007-08 causata da strumenti di debito scarsamente compresi come i CDO, Harari immagina l’IA generare strumenti finanziari di complessità senza precedenti.

In questo scenario, potrebbe emergere un sistema finanziario al di là della comprensione e della regolamentazione umana, portando a una crisi dalle conseguenze molto estese.

Sebbene Harari riconosca il rischio catastrofico di una crisi finanziaria indotta dall’IA su fronti economici, sociali e politici, distingue tale rischio da una minaccia esistenziale per la civiltà umana. Egli nota che le conseguenze indirette, come l’innescare guerre o conflitti, potrebbero amplificare l’impatto di una crisi finanziaria.

Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.

Redazione

La redazione di Red Hot Cyber è composta da professionisti del settore IT e della sicurezza informatica, affiancati da una rete di fonti qualificate che operano anche in forma riservata. Il team lavora quotidianamente nell’analisi, verifica e pubblicazione di notizie, approfondimenti e segnalazioni su cybersecurity, tecnologia e minacce digitali, con particolare attenzione all’accuratezza delle informazioni e alla tutela delle fonti. Le informazioni pubblicate derivano da attività di ricerca diretta, esperienza sul campo e contributi provenienti da contesti operativi nazionali e internazionali.