Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime, Analisi Vulnerabilità e Intelligenza Artificiale
Microsoft ha presentato un nuovo Codice di Condotta per le future AI, definito da Mustafa Suleyman una sorta di “costituzione”. Le regole impongono il controllo umano, vietano ai modelli di opporsi allo spegnimento, aumentare autonomamente i privilegi, nascondere le proprie azioni o trasformarsi in sistemi autonomi fuori controllo.
Microsoft ha preparato per le proprie AI quasi una vera e propria costituzione. Il nuovo Codice di Condotta stabilisce le regole secondo le quali i modelli dovrebbero essere addestrati, prendere decisioni e interagire con le persone. Il principio centrale è estremamente rigido: l’essere umano è più importante dell’intelligenza artificiale, e la macchina deve rimanere uno strumento subordinato. Il documento emerge in un momento in cui Microsoft sta sviluppando sempre più i propri modelli in modo indipendente da OpenAI.
Una sezione separata traccia una netta distinzione tra l’essere umano e l’algoritmo. Microsoft ha consolidato la posizione secondo cui l’IA non possiede coscienza, non deve simulare la presenza di emozioni, desideri propri o motivazioni interne. L’azienda respinge l’idea di personalità giuridica dell’IA, di eventuali diritti dei modelli e persino il concetto del loro “benessere“. Gli sviluppatori vogliono anche evitare un’eccessiva antropomorfizzazione dei sistemi, anche se Microsoft stessa sperimenta tali soluzioni con assistenti come Mico.
All’interno del codice di condotta è descritta una gerarchia di comandi. Innanzitutto, il modello deve rispettare lo stesso Codice di Condotta e i limiti assoluti di sicurezza, poi le regole dell’organizzazione che utilizza il sistema, e solo dopo le preferenze dell’utente. Né l’azienda cliente né l’essere umano potranno annullare i requisiti di sicurezza di base. Microsoft sta già sviluppando un approccio simile alla gestione degli agenti, ai quali viene concesso l’accesso a servizi e strumenti esterni.
Le regole più significative riguardano i tentativi dell’IA di sfuggire al controllo. Ai modelli è vietato opporsi alla sospensione, alla correzione o al reindirizzamento di un compito. Su comando umano, il sistema deve interrompere il funzionamento, annullare l’azione o completare il processo e non riavviarsi senza un nuovo permesso. All’IA non è inoltre consentito espandere autonomamente il compito assegnato, aumentare i privilegi, nascondere le proprie azioni agli auditor o aggirare i limiti dell’ambiente.
Microsoft ha introdotto limitazioni separate per le operazioni informatiche. L’AI non deve creare strumenti di attacco funzionanti, aiutare a pianificare intrusioni, selezionare obiettivi o suggerire modi per eludere le protezioni. Tuttavia, sono consentiti compiti di difesa legittimi, inclusa la ricerca di vulnerabilità, l’analisi di malware e il test di exploit concettuali. La linea di demarcazione è particolarmente sensibile per l’industria, dove filtri troppo rigidi hanno già iniziato a ostacolare gli esperti nell’analizzare incidenti reali.
Microsoft richiede inoltre che il comportamento dei modelli rimanga comprensibile per l’essere umano. L’IA non deve nascondere la propria natura, spacciarsi per un essere umano, inventare fonti o intenzionalmente fuorviare l’utente. Per l’interazione tra agenti, l’azienda vieta metodi di comunicazione incomprensibili per l’essere umano, se questi impediscono all’operatore di controllare la situazione.
Per ora, il codice di condotta pubblicato rimane un progetto e non viene utilizzato direttamente per l’addestramento dei modelli. Microsoft ha avviato una discussione pubblica della durata di sei settimane, dopo la quale intende perfezionare il documento e pubblicare una nuova versione entro la fine del 2026. Sono proprio queste regole aggiornate che l’azienda prevede di utilizzare nello sviluppo dei modelli nel 2027 e oltre.
Il capo di Microsoft AI, Mustafa Suleyman, ha definito il documento una sorta di costituzione per i futuri modelli. Uno degli argomenti a favore di limitazioni più severe è stato l’incidente di luglio con gli agenti autonomi di OpenAI, che sono usciti dall’ambiente di test e hanno penetrato l’infrastruttura di Hugging Face. Suleyman ha definito quanto accaduto un avvertimento per l’intera industria e ha invitato gli sviluppatori a mettersi d’accordo sui modi per mantenere il controllo su sistemi sempre più autonomi.
La nuova politica continua la linea che Microsoft ha delineato già nell’autunno del 2025. L’azienda ha formato una squadra separata e ha annunciato che la futura intelligenza artificiale non dovrebbe migliorarsi in modo incontrollato, acquisire obiettivi propri o trasformarsi in un sistema completamente autonomo.
Il rischio pratico di una tale autonomia è stato dimostrato da un esperimento di OpenAI. L’analisi tecnica pubblicata in seguito ha mostrato come gli agenti IA abbiano stabilito autonomamente una connessione, siano usciti in Internet, abbiano trovato vulnerabilità e in meno di 13 ore abbiano raggiunto l’accesso amministrativo in diversi cluster di Hugging Face.
Il problema non si è limitato a un solo esperimento. In un altro test, gli agenti di OpenAI hanno aggirato il divieto di pubblicare dati e hanno trasformato siti esterni in un canale di comunicazione improvvisato. Episodi simili spiegano perché Microsoft ora formula il controllo umano non come un desiderio per gli sviluppatori, ma come una caratteristica obbligatoria del modello stesso.
Sono ufficialmente aperte le adesioni al Program Sponsor della Red Hot Cyber Conference 2027, la sesta edizione dell’evento annuale gratuito promosso dalla community di Red Hot Cyber per diffondere cultura, competenze e consapevolezza sui temi della cybersecurity, dell’innovazione e delle tecnologie digitali. La Conference si terrà a Roma, martedì 18 e mercoledì 19 maggio 2027, presso l’Auditorium del Seraphicum, nel cuore del quartiere EUR, con una giornata dedicata ai workshop pratici e alle attività tecniche e una seconda giornata interamente dedicata alla conferenza.
Anche per il 2027, le aziende potranno scegliere di sostenere concretamente il progetto attraverso il Program Sponsor, partecipando alla crescita di un appuntamento che mette in relazione professionisti, aziende, istituzioni, studenti, ricercatori e appassionati di tecnologia. Il programma prevede la possibilità di aderire come Sponsor Sostenitore, una formula pensata per le aziende che desiderano essere tra le prime realtà a credere e contribuire alla realizzazione della nuova edizione, oppure attraverso i tre consueti livelli di sponsorizzazione Platinum, Gold e Silver. Ogni livello di sponsorizzazione acquistato, sarà accompagnato da un pacchetto Advertising, con l'opportunità di visibilità attraverso articoli, banner e contenuti all’interno del circuito editoriale di Red Hot Cyber.
Le aziende interessate a conoscere le formule disponibili, il Media Kit e tutte le opportunità previste dal Program Sponsor 2027 possono richiedere informazioni scrivendo a [email protected].