Red Hot Cyber
Condividi la tua difesa. Incoraggia l'eccellenza. La vera forza della cybersecurity risiede nell'effetto moltiplicatore della conoscenza.
Redazione RHC : 19 Maggio 2024 14:58
Secondo quanto riferito da Wired venerdì scorso, il team Superalignment di OpenAI, incaricato di controllare il pericolo esistenziale di un sistema di intelligenza artificiale sovrumana, è stato sciolto.
La notizia arriva pochi giorni dopo che i fondatori del team, Ilya Sutskever e Jan Leike, hanno lasciato contemporaneamente l’azienda.
Wired riferisce che il team Superalignment di OpenAI, lanciato per la prima volta nel luglio 2023 per impedire che i sistemi di intelligenza artificiale sovrumani in futuro diventino delle canaglie, non esiste più. Il rapporto afferma che il lavoro del gruppo sarà assorbito negli altri sforzi di ricerca di OpenAI.
 Christmas Sale -40% 𝗖𝗵𝗿𝗶𝘀𝘁𝗺𝗮𝘀 𝗦𝗮𝗹𝗲! Sconto del 𝟰𝟬% 𝘀𝘂𝗹 𝗽𝗿𝗲𝘇𝘇𝗼 𝗱𝗶 𝗰𝗼𝗽𝗲𝗿𝘁𝗶𝗻𝗮 del Corso "Dark Web & Cyber Threat Intelligence" in modalità E-Learning sulla nostra Academy!🚀
Fino al 𝟯𝟭 𝗱𝗶 𝗗𝗶𝗰𝗲𝗺𝗯𝗿𝗲, prezzi pazzi alla Red Hot Cyber Academy. 𝗧𝘂𝘁𝘁𝗶 𝗶 𝗰𝗼𝗿𝘀𝗶 𝘀𝗰𝗼𝗻𝘁𝗮𝘁𝗶 𝗱𝗲𝗹 𝟰𝟬% 𝘀𝘂𝗹 𝗽𝗿𝗲𝘇𝘇𝗼 𝗱𝗶 𝗰𝗼𝗽𝗲𝗿𝘁𝗶𝗻𝗮.
Per beneficiare della promo sconto Christmas Sale, scrivici ad [email protected] o contattaci su Whatsapp al numero di telefono: 379 163 8765.
Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì. |
Secondo Wired, la ricerca sui rischi associati a modelli di intelligenza artificiale più potenti sarà ora condotta dal cofondatore di OpenAI John Schulman. Sutskever e Leike erano alcuni dei migliori scienziati di OpenAI concentrati sui rischi dell’IA.
Leike ha pubblicato un lungo thread su X spiegando vagamente perché ha lasciato OpenAI. Dice che è da tempo in conflitto con la leadership di OpenAI sui valori fondamentali, ma questa settimana ha raggiunto un punto di rottura.
Sottolineando il modo in cui OpenAI affronta la sicurezza, Leike ha affermato nel suo post: “Negli ultimi anni, la cultura e i processi della sicurezza sono passati in secondo piano rispetto a prodotti brillanti” e “OpenAI deve diventare un’azienda AGI attenta alla sicurezza”.
Secondo Leike, OpenAI dovrebbe dedicare più tempo alla “preparazione per le prossime generazioni di modelli, alla sicurezza, al monitoraggio, alla preparazione, alla sicurezza, alla robustezza dell’avversario, al (super)allineamento, alla riservatezza, all’impatto sociale e ad argomenti correlati”, ed è preoccupato che OpenAI non sia su quella traiettoria.
All’interno del Superalignment team veniva riportato quanto segue: “Abbiamo bisogno di scoperte scientifiche e tecniche per guidare e controllare i sistemi di intelligenza artificiale molto più intelligenti di noi. Per risolvere questo problema entro quattro anni, stiamo creando un nuovo team, co-guidato da Ilya Sutskever e Jan Leike, e dedicheremo il 20% del calcolo che abbiamo ottenuto finora a questo impegno. Cerchiamo eccellenti ricercatori e ingegneri ML che si uniscano a noi“. Ma sembrerebbe che il team sia sempre stato alla ricerca della potenza di calcolo per poter agire in modo indipendente.
Nel mentre i fondatori Sam Altman e Greg Brockman stanno lavorando per rassicurare le parti interessate. Le partenze di Sutskever e Leike avvengono in un contesto di tensioni sugli approcci allo sviluppo dell’IA. Altman e Brockman sono ora sotto esame a seguito del riassetto del dipartimento di sicurezza.
Abbiamo chiesto a ChatGPT un commento su questi fatti e questa è stata la sua risposta.
RedazioneCloudflare ha registrato un’interruzione significativa nella mattina del 5 dicembre 2025, quando alle 08:47 UTC una parte della propria infrastruttura ha iniziato a generare errori interni. L’inci...
Una campagna sempre più aggressiva, che punta direttamente alle infrastrutture di accesso remoto, ha spinto gli autori delle minacce a tentare di sfruttare attivamente le vulnerabilità dei portali V...
Dietro molte delle applicazioni e servizi digitali che diamo per scontati ogni giorno si cela un gigante silenzioso: FreeBSD. Conosciuto soprattutto dagli addetti ai lavori, questo sistema operativo U...
Molto spesso parliamo su questo sito del fatto che la finestra tra la pubblicazione di un exploit e l’avvio di attacchi attivi si sta riducendo drasticamente. Per questo motivo diventa sempre più f...
Dal 1° luglio, Cloudflare ha bloccato 416 miliardi di richieste da parte di bot di intelligenza artificiale che tentavano di estrarre contenuti dai siti web dei suoi clienti. Secondo Matthew Prince, ...
