“Potrebbe minacciare l’umanità”: i ricercatori di OpenAI parlano del sistema segreto Q-Star al consiglio, prima del licenziamento di Sam Altman

Redazione RHC : 23 Novembre 2023 17:56

Prima del licenziamento del CEO di OpenAI Sam Altman, dei ricercatori hanno scritto al CDA dell’azienda avvertendo di una scoperta che secondo loro “potrebbe minacciare l’umanità”.

Questo lo ha riportato Reuters dopo aver avuto contatti con due persone a conoscenza della questione.

Questa lettera probabilmente ha influito sugli sviluppi chiave relativi alla cacciata di Altman da parte del consiglio. Altman è di fatto il simbolo dell’intelligenza artificiale generativa. 

Scarica Gratuitamente Byte The Silence, il fumetto sul Cyberbullismo di Red Hot Cyber "Il cyberbullismo è una delle minacce più insidiose e silenziose che colpiscono i nostri ragazzi. Non si tratta di semplici "bravate online", ma di veri e propri atti di violenza digitale, capaci di lasciare ferite profonde e spesso irreversibili nell’animo delle vittime.  Non possiamo più permetterci di chiudere gli occhi". Così si apre la prefazione del fumetto di Massimiliano Brolli, fondatore di Red Hot Cyber, un’opera che affronta con sensibilità e realismo uno dei temi più urgenti della nostra epoca.  Distribuito gratuitamente, questo fumetto nasce con l'obiettivo di sensibilizzare e informare. È uno strumento pensato per scuole, insegnanti, genitori e vittime, ma anche per chi, per qualsiasi ragione, si è ritrovato nel ruolo del bullo, affinché possa comprendere, riflettere e cambiare.  Con la speranza che venga letto, condiviso e discusso, Red Hot Cyber è orgogliosa di offrire un contributo concreto per costruire una cultura digitale più consapevole, empatica e sicura. Contattaci tramite WhatsApp al numero 375 593 1011 per richiedere ulteriori informazioni oppure alla casella di posta [email protected] Supporta RHC attraverso:   L'acquisto del fumetto sul Cybersecurity Awareness Ascoltando i nostri Podcast Seguendo RHC su WhatsApp Seguendo RHC su Telegram Scarica gratuitamente “Byte The Silence”, il fumetto sul Cyberbullismo di Red Hot Cyber Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì.

Prima del suo ritorno trionfale martedì scorso, più di 700 dipendenti avevano minacciato di dimettersi in massa. Questo dopo che Microsoft aveva offerto un posto ad Altman per guidare il reparto AI.

Le fonti hanno citato la lettera come uno dei fattori che hanno portato al licenziamento di Altman. Tra queste anche la commercializzazione dei progressi prima di comprenderne le conseguenze. 

Al momento questa lettera non è stata divulgata e le persone contattate da Reuters non hanno risposto alle richieste di commento.

Dopo essere stata contattata da Reuters, OpenAI, che ha rifiutato di commentare. Ha riconosciuto in un messaggio interno allo staff un progetto chiamato Q*. Ha anche confermato di una lettera inviata al consiglio prima degli eventi del fine settimana, ha detto una delle persone. 

Un portavoce di OpenAI ha affermato che il messaggio, inviato dal dirigente di lunga data Mira Murati, ha allertato lo staff.

Alcuni di OpenAI credono che Q* (pronunciato Q-Star) potrebbe essere una svolta nella ricerca verso l’intelligenza generale artificiale (AGI), ha detto a Reuters una delle persone. OpenAI definisce l’AGI come sistemi autonomi che superano gli esseri umani nei compiti economicamente più preziosi.

Date le vaste risorse informatiche, il nuovo modello è stato in grado di risolvere alcuni problemi matematici. Questo lo ha riportato la persona in condizione di anonimato perché non era autorizzata a parlare a nome dell’azienda. 

Sebbene eseguissero calcoli solo al livello degli studenti delle scuole elementari, il superamento di tali test ha reso i ricercatori molto ottimisti riguardo al futuro successo di Q*, ha detto la fonte.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.

Lista degli articoli