Redazione RHC : 19 Maggio 2024 14:58
Secondo quanto riferito da Wired venerdì scorso, il team Superalignment di OpenAI, incaricato di controllare il pericolo esistenziale di un sistema di intelligenza artificiale sovrumana, è stato sciolto.
La notizia arriva pochi giorni dopo che i fondatori del team, Ilya Sutskever e Jan Leike, hanno lasciato contemporaneamente l’azienda.
Wired riferisce che il team Superalignment di OpenAI, lanciato per la prima volta nel luglio 2023 per impedire che i sistemi di intelligenza artificiale sovrumani in futuro diventino delle canaglie, non esiste più. Il rapporto afferma che il lavoro del gruppo sarà assorbito negli altri sforzi di ricerca di OpenAI.
 Scarica Gratuitamente Byte The Silence, il fumetto sul Cyberbullismo di Red Hot Cyber"Il cyberbullismo è una delle minacce più insidiose e silenziose che colpiscono i nostri ragazzi. Non si tratta di semplici "bravate online", ma di veri e propri atti di violenza digitale, capaci di lasciare ferite profonde e spesso irreversibili nell’animo delle vittime. Non possiamo più permetterci di chiudere gli occhi". Così si apre la prefazione del fumetto di Massimiliano Brolli, fondatore di Red Hot Cyber, un’opera che affronta con sensibilità e realismo uno dei temi più urgenti della nostra epoca. Distribuito gratuitamente, questo fumetto nasce con l'obiettivo di sensibilizzare e informare. È uno strumento pensato per scuole, insegnanti, genitori e vittime, ma anche per chi, per qualsiasi ragione, si è ritrovato nel ruolo del bullo, affinché possa comprendere, riflettere e cambiare. Con la speranza che venga letto, condiviso e discusso, Red Hot Cyber è orgogliosa di offrire un contributo concreto per costruire una cultura digitale più consapevole, empatica e sicura. Contattaci tramite WhatsApp al numero 375 593 1011 per richiedere ulteriori informazioni oppure alla casella di posta [email protected]
Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì. |
Secondo Wired, la ricerca sui rischi associati a modelli di intelligenza artificiale più potenti sarà ora condotta dal cofondatore di OpenAI John Schulman. Sutskever e Leike erano alcuni dei migliori scienziati di OpenAI concentrati sui rischi dell’IA.
Leike ha pubblicato un lungo thread su X spiegando vagamente perché ha lasciato OpenAI. Dice che è da tempo in conflitto con la leadership di OpenAI sui valori fondamentali, ma questa settimana ha raggiunto un punto di rottura.
Sottolineando il modo in cui OpenAI affronta la sicurezza, Leike ha affermato nel suo post: “Negli ultimi anni, la cultura e i processi della sicurezza sono passati in secondo piano rispetto a prodotti brillanti” e “OpenAI deve diventare un’azienda AGI attenta alla sicurezza”.
Secondo Leike, OpenAI dovrebbe dedicare più tempo alla “preparazione per le prossime generazioni di modelli, alla sicurezza, al monitoraggio, alla preparazione, alla sicurezza, alla robustezza dell’avversario, al (super)allineamento, alla riservatezza, all’impatto sociale e ad argomenti correlati”, ed è preoccupato che OpenAI non sia su quella traiettoria.
All’interno del Superalignment team veniva riportato quanto segue: “Abbiamo bisogno di scoperte scientifiche e tecniche per guidare e controllare i sistemi di intelligenza artificiale molto più intelligenti di noi. Per risolvere questo problema entro quattro anni, stiamo creando un nuovo team, co-guidato da Ilya Sutskever e Jan Leike, e dedicheremo il 20% del calcolo che abbiamo ottenuto finora a questo impegno. Cerchiamo eccellenti ricercatori e ingegneri ML che si uniscano a noi“. Ma sembrerebbe che il team sia sempre stato alla ricerca della potenza di calcolo per poter agire in modo indipendente.
Nel mentre i fondatori Sam Altman e Greg Brockman stanno lavorando per rassicurare le parti interessate. Le partenze di Sutskever e Leike avvengono in un contesto di tensioni sugli approcci allo sviluppo dell’IA. Altman e Brockman sono ora sotto esame a seguito del riassetto del dipartimento di sicurezza.
Abbiamo chiesto a ChatGPT un commento su questi fatti e questa è stata la sua risposta.
RedazioneMicrosoft Teams riceverà un aggiornamento a dicembre 2025 che consentirà di monitorare la posizione dei dipendenti tramite la rete Wi-Fi dell’ufficio. Secondo la roadmap di Microsoft 365 , “quan...
Un’indagine condotta dall’Unione Europea di Radiodiffusione (EBU), con il supporto della BBC, ha messo in luce che i chatbot più popolari tendono a distorcere le notizie, modificandone il senso, ...
Spesso abbiamo citato questa frase: “Combattere il cybercrime è come estirpare le erbacce: se non le estirpi completamente rinasceranno, molto più vigorose di prima” e mai come ora risulta esser...
Per tre giorni consecutivi, dal 19 al 22 ottobre, il Comune di Caponago è rimasto isolato dal web a causa di un insolito incidente: una volpe è finita in un pozzetto della rete telefonica, danneggia...
Un’allerta globale è stata lanciata dalla Cybersecurity and Infrastructure Security Agency (CISA) degli Stati Uniti, riguardante lo sfruttamento attivo di una falla critica di esecuzione di codice ...
