Oversharing nell’AI agentica: così le aziende stanno esponendo dati sensibili

L’AI agentica sta trasformando organizzazioni e processi grazie alla capacità di agire autonomamente. Ma velocità e diffusione aumentano rischi di oversharing, vulnerabilità e perdita di controllo sui dati. Servono governance, sicurezza ed etica per governare l’innovazione senza delegare responsabilità alla tecnologia.

Uno dei cambiamenti più rappresentativi dell’utilizzo dell’intelligenza artificiale è senz’altro l’uso di agenti, l’AI agentica. Questa ridefinisce il paradigma dell’utilizzo della tecnologia con ripercussioni su come le organizzazioni possono interagire con l’intelligenza artificiale per rendere più efficienti i propri processi operativi.

Una trasformazione radicale che deve essere accompagnata, presidiata e che richiede senso di responsabilità basato su principi di etica senza perdere di vista il ruolo dell’uomo.

L’intelligenza artificiale agentica, grazie alla sua capacità di prendere decisioni e attuarle interagendo con sistemi anche complessi, si sta diffondendo ad una velocità altissima perché i risultati si vedono subito. È così che processi decisionali registrano tempi di produzione molto bassi stabilendo prestazioni fino ad ora appannaggio di sistemi ben più vasti e onerosi.

Con l’intelligenza artificiale agentica è infatti possibile pianificare, controllare e agire negli ecosisitemi digitali con uno strumento di indubbia potenza in tempi rapidissimi.

Siamo di fronte ad una nuova interazione tra uomo e tecnologia, come già abbiamo sperimentato nella prima generazione dell’intelligenza artificiale generativa, dove la velocità di adozione supera la velocità della comprensione generando rischi soprattutto pensando che l’AI agentica non si limita a rispondere alle nostre domande fornendoci delle risposte sulle azioni da fare, ma agisce per conto dell’uomo.

Proprio per queste sue caratteristiche l’AI agentica ha subito trovato la sua naturale adozione, ad esempio, nei sistemi CRM, nelle soluzioni di ticketing, nei processi di HR, nella gestione documentale e nella cybersecurity.

Il prodotto tra potenza dello strumento e diffusione ci porta a valutare il rischio e impone riflessioni, soprattutto quando queste adozioni non sono governate con attenzione e consapevolezza. Con l’introduzione dell’AI agentica ci portiamo in dote la possibilità che incidenti particolarmente estesi possano accadere e avere conseguenze anche gravi.

Oversharing

È questo il contesto, la cornice di senso, dove i rischi per la sicurezza e la protezione del dato sono spesso trascurati dando luogo a sovraesposizione delle informazioni attraverso una diffusione eccessiva e non gestita del dato da parte degli strumenti di AI agentica. Questo accade perché l’AI agentica può potenzialmente accedere a grandi quantità di dati, prendere decisioni autonome e interagire con altri sistemi complessi senza il controllo diretto dell’uomo.

Per poter funzionare questi sistemi hanno bisogno di definire un contesto rappresentato dalle informazioni fornite dagli utenti. Il problema nasce quando non è chiaro quali informazioni sono realmente minime e necessarie o quali è preferibile non condividere. Non c’è la percezione del confine tra utile ed eccesivo, poca consapevolezza sulla classificazione del dato ed è così che gli utenti rendono disponibili, inseriscono nelle interazioni con AI agentica, dati personali o riservati inconsapevolmente.

Il risultato è che informazioni sensibili, documenti classificati, strategie, segreti industriali, codici non sufficientemente protetti o compresi vengono sovraesposti e resi disponibili per usi impropri da parte di malintenzionati che ringraziano.

Una componente importante da considerare è il ruolo degli sviluppatori di applicazioni e agenti AI a loro volta sollecitati dalla pressione sui rilasci esercitata dal business, che in questa corsa all’innovazione spesso ignorano passaggi fondamentali che invece dovrebbero caratterizzare il ciclo di vita di tutte le soluzioni: validazione della sicurezza, analisi delle superfici di attacco, verifiche sulla protezione del dato, testi di validazione della robustezza, della resilienza e valutazione di impatto etico e organizzativo.

Trascurare questi aspetti di sicurezza e protezione del dato in fase di progettazione iniziale, da luogo ad un accumulo di vulnerabilità che si manifesta poi nelle fasi finali quando rimediare diventa molto più oneroso se non addirittura impossibile senza cambiare la natura del prodotto finale, se le fondamenta non sono solide il manufatto può essere il migliore del mondo, ma è destinato a vita breve. È il principio della leva della qualità: investire in analisi, progettazione per avere meno costi di rilavorazione sul prodotto o servizio finale.

Questo trend trova conferma nei dati statistici riportati da OECD AI Incidents and Hazards Monitor (AIM) dove è possibile consultare informazioni su incidenti e rischi derivati da AI.

Conclusioni

L’AI agentica non è un giocattolo tecnologico da rendere disponibile a chiunque con disinvoltura in nome dell’efficenza, deve essere considerata a tutti gli effetti un’infrastruttura IT critica, ignorare questo significa trascurare l’impatto e i rischi associati. L’adozione di strumenti di AI agentica richiede un sistema di gestione, di governance, e supervisione come si conviene a sistemi ad alta criticità.

Le organizzazioni che decidono di adottare soluzioni basate su AI agentica devono dotarsi di strumenti adeguati in grado di presidiare l’intero ciclo di vita dalla progettazione alla produzione, dal monitoraggio alla manutenzione e devono riservare attenzione alla distribuzione. Devono mantenere la capacità di controllare e di disattivare il funzionamento in caso di sospetto comportamento anomalo.

La tecnologia ha un grande potenziale, ma non è autonoma nel senso filosofico del termine. Nonostante un livello di automazione elevato dietro ad ogni soluzione di AI agentica c’è sempre una scelta operata dall’uomo per rispondere ad un fabbisogno esplicito o implicito di un processo all’interno di un’organizzazione. Per semplificare possiamo dire che dietro ad una AI agentica si stratificano risultati di decisioni umane.

La questione non è quanto siano avanzati gli agenti di intelligenza artificiale, ma chi governa le decisioni. Per quanto autonomi possano apparire questi strumenti, l’AI non agisce fuori di un perimetro di scelte umane, alla fine chi decide è l’uomo. È questo il principio da riconoscere, la responsabilità non può essere delegata alla tecnologia. Governare lAI significa avere piena consapevolezza, avere le competenze e riconoscere il dovere delle decisioni umane che la rendono possibile. Come la storia ci ha dimostrato si può fare un cattivo uso ancorché inconsapevolmente delle più importanti scoperte tecnologiche fino ad arrivare all’autodistruzione.

Considerazioni

Il tema dell’AI agentica si colloca nel rapporto tra scienza, tecnologia e l’uomo. L’AI si pone all’incrocio tra conoscenza, potere, progresso e si configura sempre più come un attore, un’agency, sociale. La sempre più diffusa condivisione di dati, di decisioni, genera rischi di asimmetria informativa e concentrazione della capacità di controllo. Ed è proprio per questo che la sovraesposizione del dato generata dall’AI agentica rende urgente una gestione consapevole e responsabile: non per porre limiti all’innovazione, ma per evitare che il progresso si trasformi in una nuova forma di concentrazione del potere. Si riconosce così che la responsabilità resta dell’uomo ed è centrale: governare l’AI significa scegliere con consapevolezza i dati, i limiti e definire gli obiettivi perché da queste scelte dipenderà se l’AI sarà uno strumento abilitante o uno strumento di diseguaglianza. È così che la sovraesposizione, l’oversharing, non sarà una questione tecnica, ma culturale e politica che inciderà sul rapporto tra uomo, tecnologia e progresso che dovrà essere per tutti.

Le scelte che vengono compiute nel presente plasmeranno il contesto futuro. Da esse dipenderanno la futura società, il rapporto tra l’uomo e la tecnologia ma, soprattutto, l’ambito di applicazione di quest’ultima: si potrà assistere all’affermazione di una nuova tecnologia abilitante oppure allo scenario più temuto della polarizzazione del controllo. L’intelligenza artificiale, in definitiva, è e sarà il punto di incontro tra conoscenza, potere e progresso.

Michele Lemmi

Con oltre vent’anni di esperienza in IT, sicurezza, infrastrutture e sistemi sono Group CISO di Sammontana Italia S.p.A. Società Benefit. Definisco strategie e obiettivi in ambito cyber security, compliance e architetture di rete. Nel mio percorso professionale ho ricoperto posizioni nella qualità, nel controllo di processo per poi assumere ruoli tecnici e manageriali dove ho integrato le competenze operative, analitiche e strategiche. Seguo con passione le tecnologie emergenti che utilizzo per contribuire alla crescita ed alla resilienza dell’organizzazione. Coltivo diverse passioni, tra cui la fotografia, e pratico sport come la bicicletta gravel e l’alpinismo.

Aree di competenza: CISO, Security Governance, Compliance Governance, Network Architect, System and Infrastructure Management.