Per paura che le AI sfuggano di mano, Open AI crea un team per limitare le AI super intelligenti

Redazione RHC : 6 Luglio 2023 14:00

OpenAI sta formando un nuovo team per sviluppare modi per gestire e controllare i sistemi di intelligenza artificiale “superintelligenti“. Ilya Sutskever, Chief Researcher e uno dei co-fondatori dell’azienda, guiderà il gruppo. 

OpenAI prevede che l’IA con un’intelligenza superiore a quella umana potrebbe emergere entro un decennio. E se dovesse mai apparire, potrebbe non essere necessariamente benevola, quindi è necessario esplorare i modi per controllare e limitare tale intelligenza artificiale.

Attualmente, OpenAI non dispone di una soluzione per gestire l’IA super intelligente e impedire che vada fuori controllo. Le attuali tecniche di condizionamento dell’IA, come l’apprendimento per rinforzo basato sul feedback umano, si basano sulla capacità degli esseri umani di controllare l’IA. 

CVE Enrichment Mentre la finestra tra divulgazione pubblica di una vulnerabilità e sfruttamento si riduce sempre di più, Red Hot Cyber ha lanciato un servizio pensato per supportare professionisti IT, analisti della sicurezza, aziende e pentester: un sistema di monitoraggio gratuito che mostra le vulnerabilità critiche pubblicate negli ultimi 3 giorni dal database NVD degli Stati Uniti e l'accesso ai loro exploit su GitHub. Cosa trovi nel servizio: ✅ Visualizzazione immediata delle CVE con filtri per gravità e vendor. ✅ Pagine dedicate per ogni CVE con arricchimento dati (NIST, EPSS, percentile di rischio, stato di sfruttamento CISA KEV). ✅ Link ad articoli di approfondimento ed exploit correlati su GitHub, per ottenere un quadro completo della minaccia. ✅ Funzione di ricerca: inserisci un codice CVE e accedi subito a insight completi e contestualizzati. Ricerca per singola CVE Ricerca le ultime CVE emesse Articolo sul CVE enrichment Supporta Red Hot Cyber attraverso:  L'acquisto del fumetto sul Cybersecurity Awareness Ascoltando i nostri Podcast Seguendo RHC su WhatsApp Seguendo RHC su Telegram Scarica gratuitamente “Byte The Silence”, il fumetto sul Cyberbullismo di Red Hot Cyber Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì.

Ma come faranno gli umani a controllare i sistemi di intelligenza artificiale che sono molto più intelligenti di loro?

A tal fine, OpenAI sta creando un nuovo team di Superalignment che avrà accesso al 20% delle capacità di calcolo dei server dell’azienda. Insieme a scienziati e ingegneri di OpenAI, nonché ricercatori di altre organizzazioni dell’azienda, il team risolverà i principali problemi tecnici della gestione dell’IA ultra-intelligente nei prossimi quattro anni.

Il team addestrerà i sistemi di intelligenza artificiale utilizzando il feedback umano, addestrerà l’IA per aiutare a valutare altri sistemi di intelligenza artificiale e infine creerà un’IA in grado di controllare le reti neurali in modo che non vadano fuori dai binari. L’ipotesi di OpenAI è che l’intelligenza artificiale possa effettuare dei controlli più velocemente e meglio degli umani. Le reti neurali lavoreranno a fianco degli umani per rendere i propri successori più in linea con gli umani.

Ma non sono sempre AI?

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.

Lista degli articoli