Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime, Analisi Vulnerabilità e Intelligenza Artificiale
Il CEO di Anthropic Dario Amodei chiede di rallentare lo sviluppo dell’intelligenza artificiale per affrontare i rischi legati a cyberattacchi, bioterrorismo, perdita di controllo ed effetti economici. Sam Altman e Elon Musk hanno espresso sostegno, aprendo un nuovo confronto sulla sicurezza dell’AI.
Dario amadei, capo di Anthropic dopo l’idea di una sorta di moderazione nella ricerca dello sviluppo dell’intelligenza artificiale rincara la dose riporta quanto segue:
“Non vi mentirò: esistono pericoli reali. Per troppo tempo l’industria ha mentito alle persone sul fatto che questa tecnologia comportasse dei rischi. Noi di Anthropic non lo abbiamo mai fatto, ma gran parte del settore si’”, ha dichiarato Amodei al programma “Sunday Morning” della Cbs e ha aggiunto “Non credo che vietarla completamente sia l’approccio giusto. Innanzitutto, non mi sembra accettabile rinunciare per sempre agli incredibili benefici e alle cure mediche. In secondo luogo, questa tecnologia sara’ sviluppata in altri Paesi, compresi quelli autoritari” , riferendosi ai modelli Open Weight (a pesi aperti), che vengono rilasciati dai player cinesi e mettono a repentaglio il business dei grandi player americani basato sulla rivendita delle API.
Il manager ha riportato chiaramente che esistono dei rischi reali che stanno iniziando ad invadere il mondo reale, come ad esempio gli attacchi informatici, azioni di bioterrorismo, la possibile perdita di controllo dei sistemi e gli effetti sull’economia.
L’idea di una sorta di «moderazione» nello sviluppo dell’intelligenza artificiale ha iniziato a essere discussa quasi contemporaneamente da diversi rappresentanti del settore dopo una serie di incidenti nel campo della sicurezza informatica.
Il CEO di Anthropic, Dario Amodei, ha invitato le startup di IA a rallentare il ritmo, e questa iniziativa ha ricevuto inizialmente l’approvazione dei concorrenti OpenAI e SpaceX (xAI).
Almeno, l’idea di Amodei è stata rapidamente sostenuta sui social network da Sam Altman e Elon Musk, cosa non del tutto caratteristica dello stato attuale del settore dell’IA, contrassegnato da una concorrenza accanita.
Altman, a sua volta, ha spiegato la necessità di mettere ordine nella situazione per quel che riguarda la sicurezza dell’IA è la conseguente decisione di non procedere con l’IPO nel 2026, ma di posticiparlo a un periodo successivo.
Nel suo post sul blog di Anthropic, Dario Amodei ha proposto un piano in tre fasi per moderare i ritmi di sviluppo dell’IA senza danneggiare gli interessi commerciali delle startup o compromettere la leadership degli Stati Uniti in questo settore. Alcune delle misure da lui suggerite saranno più complesse da implementare, altre più semplici, ma il settore sarà portato ad attuare una autoregolamentazione.
Innanzitutto, il capo di Anthropic ha proposto di dare accesso a esperti indipendenti alle procedure interne di sicurezza e ai rapporti sugli incidenti. La seconda fase suggerisce alle principali aziende dei paesi che si considerano democratici di coordinare i loro sforzi e sviluppare standard di sicurezza comuni. Il terzo punto del piano propone agli stati con diversi regimi politici di accordarsi tra loro sullo sviluppo dell’IA. In parte, queste proposte da parte della dirigenza di Anthropic sono state rese pubbliche anche con l’obiettivo di ridurre il livello di tensione sociale, che era stato alimentato dalle rivelazioni di ex dipendenti di Anthropic e OpenAI, i quali avevano accusato la dirigenza delle startup di trascurare le vite umane.
Amodei ha spiegato che le idee di moderazione dello sviluppo dell’IA erano nell’aria già dal 2023, ma allora non erano così rilevanti per l’implementazione, poiché in quel momento i modelli di IA non erano abbastanza potenti da rappresentare una seria minaccia per l’umanità dal punto di vista pratico. «Continuo a credere che l’IA possa migliorare enormemente la qualità della vita umana. Il mio desiderio di raggiungere questo obiettivo non è diminuito, ma questi benefici saranno raggiunti solo se svilupperemo la tecnologia nella giusta direzione, e dobbiamo preoccuparci in modo particolare di fare tutto nel modo giusto», ha ammesso Amodei nel suo saggio sul sito di Anthropic.
Nonostante ciò, il capo dell’azienda insiste sulla necessità di scegliere il ritmo ottimale di sviluppo, perché se gli Stati Uniti dovessero esitare troppo nello sviluppo dell’IA, i concorrenti geopolitici potrebbero prendere il sopravvento.
Sarah Heck, che in Anthropic si occupa delle relazioni pubbliche, ha invitato il governo degli Stati Uniti a partecipare al processo di regolamentazione del settore, vietando l’esportazione di chip avanzati in Cina, e ad adottare una legge che richieda la selezione dei modelli di IA in base a criteri di sicurezza con test preliminari obbligatori.
Sam Altman ha espresso la sua solidarietà con l’opinione di Amodei, spiegando che anche all’interno di OpenAI simili discussioni sono in corso da diverse settimane. Ha sostenuto l’idea del concorrente di dare accesso a esperti esterni al lavoro sui modelli di IA avanzati, esprimendo la disponibilità a implementare tale misura da parte di OpenAI.
Il principale ricercatore scientifico dell’azienda, Jacub Pachocki, ha recentemente anche invitato i player del mercato a rallentare volontariamente i ritmi di sviluppo dell’IA fino all’adozione di standard di sicurezza comunemente accettati. Elon Musk, che guida il startup xAI entrato a far parte di SpaceX, ha brevemente sostenuto il capo di Anthropic su X, riconoscendone la validità.
“Credo che anche se il rallentamento ci permetterà di guadagnare un anno o due prima che i modelli raggiungano un livello critico di capacità, e se utilizziamo questo tempo per mettere ordine, potremo ridurre significativamente il rischio che qualcosa vada seriamente storto”, ha osservato il capo di Anthropic.
Sono ufficialmente aperte le adesioni al Program Sponsor della Red Hot Cyber Conference 2027, la sesta edizione dell’evento annuale gratuito promosso dalla community di Red Hot Cyber per diffondere cultura, competenze e consapevolezza sui temi della cybersecurity, dell’innovazione e delle tecnologie digitali. La Conference si terrà a Roma, martedì 18 e mercoledì 19 maggio 2027, presso l’Auditorium del Seraphicum, nel cuore del quartiere EUR, con una giornata dedicata ai workshop pratici e alle attività tecniche e una seconda giornata interamente dedicata alla conferenza.
Anche per il 2027, le aziende potranno scegliere di sostenere concretamente il progetto attraverso il Program Sponsor, partecipando alla crescita di un appuntamento che mette in relazione professionisti, aziende, istituzioni, studenti, ricercatori e appassionati di tecnologia. Il programma prevede la possibilità di aderire come Sponsor Sostenitore, una formula pensata per le aziende che desiderano essere tra le prime realtà a credere e contribuire alla realizzazione della nuova edizione, oppure attraverso i tre consueti livelli di sponsorizzazione Platinum, Gold e Silver. Ogni livello di sponsorizzazione acquistato, sarà accompagnato da un pacchetto Advertising, con l'opportunità di visibilità attraverso articoli, banner e contenuti all’interno del circuito editoriale di Red Hot Cyber.
Le aziende interessate a conoscere le formule disponibili, il Media Kit e tutte le opportunità previste dal Program Sponsor 2027 possono richiedere informazioni scrivendo a [email protected].