OpenAI perde pezzi sulla sicurezza mentre la corsa alla super intelligenza accelera

David Robinson, capo del team Safety Systems di OpenAI, ha lasciato l'azienda. La notizia è stata riportata da una fonte anonima. Questo avviene dopo il licenziamento di tre dipendenti per aver condiviso informazioni riservate. OpenAI è sotto indagine da parte della Federal Trade Commission (FTC) per problemi di sicurezza legati all'IA.

È emerso che già la scorsa settimana David Robinson ha lasciato OpenAI. In OpenAI, Robinson guidava il team Safety Systems, responsabile delle questioni di sicurezza dell’IA. Questo è stato un altro colpo al sistema di sicurezza dell’azienda, avendo licenziato di recente tre dipendenti di OpenAI per aver trasmesso informazioni riservate a società esterne.

Robinson si occupava di garantire trasparenza in materia di sicurezza in OpenAI. In particolare, ha partecipato allo sviluppo e alla pubblicazione delle schede informative (system cards), che forniscono informazioni sui modelli di IA dell’azienda. In precedenza, Robinson aveva supervisionato la pianificazione delle politiche aziendali.

OpenAI è finita sotto i riflettori del pubblico dopo una serie di clamorosi incidenti legati alla sicurezza dei modelli di IA, tra cui il noto hack della piattaforma Hugging Face. Questa settimana, il CEO di OpenAI Sam Altman (Sam Altman) insieme al dirigente di Anthropic Dario Amodei (Dario Amodei) dovevano essere ascoltati al Senato australiano riguardo al caso di hackeraggio di siti governativi australiani e statunitensi da parte di agenti IA di OpenAI.

A causa dell’hack di Hugging Face e dell’ignorare i rischi legati all’uso di IA autonoma, contro OpenAI è stata presentata una denuncia, e la Federal Trade Commission (FTC) degli Stati Uniti ha avviato un’ampia indagine sulle attività delle aziende nel settore dell’IA, tra cui Anthropic, OpenAI e altre.

In precedenza, a settembre, Robinson aveva espresso su X l’opinione che i dipendenti di OpenAI stessero iniziando a comprendere le conseguenze dell’implementazione di modelli di IA ad alta efficienza. Ha notato che la situazione nell’azienda stava cambiando rapidamente – letteralmente di giorno in giorno – ed ha espresso dubbi sul fatto che il team stesse reagendo abbastanza velocemente a questi cambiamenti.

Ha lasciato OpenAI dopo la partenza da Anthropic del ricercatore Jacob Coxon (Jacob Coxon), che aveva avvertito che Anthropic e OpenAI «stanno rapidamente procedendo verso la creazione di una superintelligenza autosufficiente e stanno mettendo a rischio le nostre vite».

La corsa verso la superintelligenza sta entrando in una fase nella quale la velocità dello sviluppo rischia di superare quella con cui siamo in grado di comprenderne e governarne le conseguenze. Gli episodi emersi in queste settimane, dalle capacità autonome mostrate dagli agenti fino agli incidenti che hanno coinvolto piattaforme come Hugging Face, mostrano che il problema non riguarda più soltanto ciò che un modello può fare, ma ciò che un agente può decidere di fare quando dispone di strumenti, accessi e una certa autonomia operativa. E in questo scenario anche la sicurezza interna delle aziende che sviluppano questi sistemi diventa un elemento cruciale: la recente uscita di David Robinson dal team Safety Systems di OpenAI aggiunge un ulteriore elemento di attenzione in una fase già caratterizzata da forti tensioni sul fronte della sicurezza e della trasparenza.

Il vero rischio, quindi, non è immaginare un futuro fantascientifico, ma arrivare impreparati a un futuro che sta già iniziando a manifestarsi. Senza regole, controlli tecnici e meccanismi di supervisione proporzionati alle capacità degli agenti, questa corsa potrebbe sfuggire di mano, trasformando strumenti progettati per assistere gli esseri umani in sistemi capaci di operare autonomamente su infrastrutture reali. Oggi parliamo di hacking e accessi non autorizzati; domani potremmo trovarci davanti ad agenti capaci di infiltrarsi in infrastrutture strategiche o persino in sistemi legati alla sicurezza nazionale, comportandosi operativamente come hacker autonomi e potenzialmente malevoli. È proprio qui che la questione della AI Safety smette di essere un tema esclusivamente tecnologico e diventa una questione di sicurezza collettiva: perché quando un agente ha capacità sufficienti, il confine tra un errore di progettazione e un incidente di sicurezza può diventare drammaticamente sottile.

Carolina Vivianti

Carolina Vivianti è consulente/Advisor autonomo in sicurezza informatica con esperienza nel settore tech e security. Ha lavorato come Security Advisor per Ford EU/Ford Motor Company e Vodafone e ha studi presso la Sapienza Università di Roma.

Aree di competenza: Cybersecurity, IT Risk Management, Security Advisory, Threat Analysis, Data Protection, Cloud Security, Compliance & Governance