Redazione RHC : 6 Luglio 2023 14:00
OpenAI sta formando un nuovo team per sviluppare modi per gestire e controllare i sistemi di intelligenza artificiale “superintelligenti“. Ilya Sutskever, Chief Researcher e uno dei co-fondatori dell’azienda, guiderà il gruppo.
OpenAI prevede che l’IA con un’intelligenza superiore a quella umana potrebbe emergere entro un decennio. E se dovesse mai apparire, potrebbe non essere necessariamente benevola, quindi è necessario esplorare i modi per controllare e limitare tale intelligenza artificiale.
Attualmente, OpenAI non dispone di una soluzione per gestire l’IA super intelligente e impedire che vada fuori controllo. Le attuali tecniche di condizionamento dell’IA, come l’apprendimento per rinforzo basato sul feedback umano, si basano sulla capacità degli esseri umani di controllare l’IA.
PARTE LA PROMO ESTATE -40%
RedHotCyber Academy lancia una promozione esclusiva e a tempo limitato per chi vuole investire nella propria crescita professionale nel mondo della tecnologia e della cybersecurity!
Approfitta del 40% di sconto sull’acquisto congiunto di 3 corsi da te scelti dalla nostra Academy. Ad esempio potresti fare un percorso formativo includendo Cyber Threat intelligence + NIS2 + Criptovalute con lo sconto del 40%. Tutto questo lo potrai fruire, dove e quando vuoi e con la massima flessibilità, grazie a lezioni di massimo 30 minuti ciascuna.
Contattaci tramite WhatsApp al 375 593 1011 per richiedere ulteriori informazioni oppure scriviti alla casella di posta [email protected]
Ma come faranno gli umani a controllare i sistemi di intelligenza artificiale che sono molto più intelligenti di loro?
A tal fine, OpenAI sta creando un nuovo team di Superalignment che avrà accesso al 20% delle capacità di calcolo dei server dell’azienda. Insieme a scienziati e ingegneri di OpenAI, nonché ricercatori di altre organizzazioni dell’azienda, il team risolverà i principali problemi tecnici della gestione dell’IA ultra-intelligente nei prossimi quattro anni.
Il team addestrerà i sistemi di intelligenza artificiale utilizzando il feedback umano, addestrerà l’IA per aiutare a valutare altri sistemi di intelligenza artificiale e infine creerà un’IA in grado di controllare le reti neurali in modo che non vadano fuori dai binari. L’ipotesi di OpenAI è che l’intelligenza artificiale possa effettuare dei controlli più velocemente e meglio degli umani. Le reti neurali lavoreranno a fianco degli umani per rendere i propri successori più in linea con gli umani.
Ma non sono sempre AI?
RedazioneDopo la chiusura della piattaforma di phishing Darcula e del software Magic Cat utilizzato dai truffatori, la soluzione Magic Mouse ha guadagnato popolarità tra i criminali. Secondo gli specialis...
Gli analisti di Binarly hanno trovato almeno 35 immagini su Docker Hub ancora infette da una backdoor che ha penetrato xz Utils l’anno scorso. I ricercatori hanno avvertito che questo potrebbe ...
Tre gravi vulnerabilità di Microsoft Office, che potrebbero permettere agli aggressori di eseguire codice remoto sui sistemi colpiti, sono state risolte da Microsoft con il rilascio di aggiorname...
Dalle macchine che apprendono a quelle che si auto migliorano: il salto evolutivo che sta riscrivendo il codice del futuro Mentre leggete questo articolo, molto probabilmente, in un data center del mo...
Trend Micro ha rilevato un attacco mirato ai settori governativo e aeronautico in Medio Oriente, utilizzando un nuovo ransomware chiamato Charon. Gli aggressori hanno utilizzato una complessa catena d...
