Sondaggio Scioccante: Il 5% degli scienziati stimano la probabilità che l’IA sfugga di mano e ci porti all’estinzione

Redazione RHC : 6 Gennaio 2024 16:45

“Il futuro, di nuovo ignoto, scorre verso di noi, e io lo affronto per la prima volta con un senso di speranza, perché se un robot, un Terminator, può capire il valore della vita umana, forse potremo capirlo anche noi.” (cit. Sarah Connor nel film Terminator).

Un sondaggio condotto dai i principali scienziati dell’intelligenza artificiale afferma che esiste una probabilità del 5% che l’intelligenza artificiale diventi incontrollabile e spazzi via l’umanità. Nel breve termine, i ricercatori stimano che l’intelligenza artificiale diventerà significativamente più avanzata, in grado di creare una canzone pop della Top 40 e scrivere un bestseller del New York Times prima del 2030.

“Anche se le previsioni degli esperti di intelligenza artificiale non dovrebbero essere viste come una guida affidabile alla verità oggettiva, possono fornire un pezzo importante del puzzle”, hanno affermato i ricercatori di Berkeley e dell’Università di Oxford che hanno condotto lo studio a dicembre. 

Christmas Sale -40% 𝗖𝗵𝗿𝗶𝘀𝘁𝗺𝗮𝘀 𝗦𝗮𝗹𝗲! Sconto del 𝟰𝟬% 𝘀𝘂𝗹 𝗽𝗿𝗲𝘇𝘇𝗼 𝗱𝗶 𝗰𝗼𝗽𝗲𝗿𝘁𝗶𝗻𝗮 del Corso "Dark Web & Cyber Threat Intelligence" in modalità E-Learning sulla nostra Academy!🚀 Fino al 𝟯𝟭 𝗱𝗶 𝗗𝗶𝗰𝗲𝗺𝗯𝗿𝗲, prezzi pazzi alla Red Hot Cyber Academy. 𝗧𝘂𝘁𝘁𝗶 𝗶 𝗰𝗼𝗿𝘀𝗶 𝘀𝗰𝗼𝗻𝘁𝗮𝘁𝗶 𝗱𝗲𝗹 𝟰𝟬% 𝘀𝘂𝗹 𝗽𝗿𝗲𝘇𝘇𝗼 𝗱𝗶 𝗰𝗼𝗽𝗲𝗿𝘁𝗶𝗻𝗮. Per beneficiare della promo sconto Christmas Sale, scrivici ad [email protected] o contattaci su Whatsapp al numero di telefono: 379 163 8765. Supporta Red Hot Cyber attraverso:  L'acquisto del fumetto sul Cybersecurity Awareness Ascoltando i nostri Podcast Seguendo RHC su WhatsApp Seguendo RHC su Telegram Scarica gratuitamente “Byte The Silence”, il fumetto sul Cyberbullismo di Red Hot Cyber Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì.

“La loro familiarità con la tecnologia e le dinamiche dei suoi progressi passati li mette in una buona posizione per formulare ipotesi plausibili sul futuro dell’intelligenza artificiale”.

L’indagine ha chiesto a 2.778 scienziati che avevano pubblicato studi sull’intelligenza artificiale sottoposti a peer review riguardo alle loro previsioni per il futuro. 

La sensazione? Pura incertezza.

Circa il 68% dei ricercatori ritiene che i risultati positivi dell’intelligenza artificiale sovrumana siano più probabili di quelli negativi. Ma circa la metà di questi ottimisti dà una possibilità diversa da zero di estinzione umana. 

Lo studio evidenzia il pericolo percepito dai principali ricercatori mondiali riguardo alla creazione di una potente intelligenza artificiale. C’è stato un ampio consenso sul fatto che occorre maggiore regolamentazione per ridurre al minimo i rischi dell’IA. Ma i ricercatori erano divisi sulla questione se il progresso dell’IA in generale dovesse accelerare o rallentare.

Oltre l’80% dei ricercatori sull’intelligenza artificiale ha espresso preoccupazione “estrema” o “sostanziale” riguardo al fatto che l’intelligenza artificiale possa consentire la diffusione di disinformazione. 

La maggior parte dei ricercatori ha espresso preoccupazioni simili riguardo ai governanti autoritari che utilizzano l’intelligenza artificiale per controllare la propria popolazione. Ai sistemi di intelligenza artificiale che peggiorano la disuguaglianza economica e al ruolo dell’intelligenza artificiale nella creazione di virus ingegnerizzati. 

L’indagine sembra essere la più grande del suo genere fino ad oggi.

A dicembre, OpenAI ha pubblicato il suo primo documento sull’allineamento dell’intelligenza artificiale sovrumana ai valori umani. Anthropic ha una costituzione imposta sui suoi sistemi di intelligenza artificiale per garantire che agiscano in linea con le regole della nostra società. Ma questi metodi funzioneranno davvero con modelli di intelligenza artificiale più intelligenti degli umani? Questo resta da vedere perché l’attuale intelligenza artificiale non è così intelligente.

I ricercatori hanno fornito le loro migliori stime su quando la società raggiungerà 39 importanti progressi nell’intelligenza artificiale. Gli esperti prevedono che l’intelligenza artificiale sarà in grado di assemblare LEGO, tradurre nuove lingue e costruire videogiochi prima del 2033. Entro il 2063, i ricercatori stimano che l’intelligenza artificiale potrebbe svolgere il lavoro di un chirurgo o addirittura di un ricercatore sull’intelligenza artificiale.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.

Lista degli articoli