“Potrebbe minacciare l’umanità”: i ricercatori di OpenAI parlano del sistema segreto Q-Star al consiglio, prima del licenziamento di Sam Altman

Redazione RHC : 23 Novembre 2023 17:56

Prima del licenziamento del CEO di OpenAI Sam Altman, dei ricercatori hanno scritto al CDA dell’azienda avvertendo di una scoperta che secondo loro “potrebbe minacciare l’umanità”.

Questo lo ha riportato Reuters dopo aver avuto contatti con due persone a conoscenza della questione.

Questa lettera probabilmente ha influito sugli sviluppi chiave relativi alla cacciata di Altman da parte del consiglio. Altman è di fatto il simbolo dell’intelligenza artificiale generativa. 

Vuoi diventare un esperto del Dark Web e della Cyber Threat Intelligence (CTI)?
Stiamo per avviare il corso intermedio in modalità "Live Class", previsto per febbraio.
A differenza dei corsi in e-learning, disponibili online sulla nostra piattaforma con lezioni pre-registrate, i corsi in Live Class offrono un’esperienza formativa interattiva e coinvolgente.
Condotti dal professor Pietro Melillo, le lezioni si svolgono online in tempo reale, permettendo ai partecipanti di interagire direttamente con il docente e approfondire i contenuti in modo personalizzato. Questi corsi, ideali per aziende, consentono di sviluppare competenze mirate, affrontare casi pratici e personalizzare il percorso formativo in base alle esigenze specifiche del team, garantendo un apprendimento efficace e immediatamente applicabile.
Per ulteriori informazioni, scrivici ad [email protected] oppure scrivici su Whatsapp al 379 163 8765 

Supporta RHC attraverso:

• L'acquisto del fumetto sul Cybersecurity Awareness
• Ascoltando i nostri Podcast
• Seguendo RHC su WhatsApp
• Seguendo RHC su Telegram
• Scarica gratuitamente "Dark Mirror", il report sul ransomware di Dark Lab

Ti piacciono gli articoli di Red Hot Cyber? Non aspettare oltre, iscriviti alla newsletter settimanale per non perdere nessun articolo.

Prima del suo ritorno trionfale martedì scorso, più di 700 dipendenti avevano minacciato di dimettersi in massa. Questo dopo che Microsoft aveva offerto un posto ad Altman per guidare il reparto AI.

Le fonti hanno citato la lettera come uno dei fattori che hanno portato al licenziamento di Altman. Tra queste anche la commercializzazione dei progressi prima di comprenderne le conseguenze. 

Al momento questa lettera non è stata divulgata e le persone contattate da Reuters non hanno risposto alle richieste di commento.

Dopo essere stata contattata da Reuters, OpenAI, che ha rifiutato di commentare. Ha riconosciuto in un messaggio interno allo staff un progetto chiamato Q*. Ha anche confermato di una lettera inviata al consiglio prima degli eventi del fine settimana, ha detto una delle persone. 

Un portavoce di OpenAI ha affermato che il messaggio, inviato dal dirigente di lunga data Mira Murati, ha allertato lo staff.

Alcuni di OpenAI credono che Q* (pronunciato Q-Star) potrebbe essere una svolta nella ricerca verso l’intelligenza generale artificiale (AGI), ha detto a Reuters una delle persone. OpenAI definisce l’AGI come sistemi autonomi che superano gli esseri umani nei compiti economicamente più preziosi.

Date le vaste risorse informatiche, il nuovo modello è stato in grado di risolvere alcuni problemi matematici. Questo lo ha riportato la persona in condizione di anonimato perché non era autorizzata a parlare a nome dell’azienda. 

Sebbene eseguissero calcoli solo al livello degli studenti delle scuole elementari, il superamento di tali test ha reso i ricercatori molto ottimisti riguardo al futuro successo di Q*, ha detto la fonte.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.

Lista degli articoli