Le aziende corrono verso l’IA mentre le “AI Ombra” aprono nuovi fronti di rischio

Redazione RHC : 3 Dicembre 2025 10:44

L’adozione su larga scala dell’intelligenza artificiale nelle imprese sta modificando in profondità i processi operativi e, allo stesso tempo, introduce nuovi punti critici per la sicurezza. Le aziende ricorrono a questi sistemi con l’obiettivo di aumentare la produttività e rafforzare la competitività, ma la loro crescente autonomia impone un ripensamento delle regole di controllo e governance.

Gli assistenti basati su IA non svolgono più soltanto attività di supporto, come la stesura di e-mail o la redazione di riassunti. In molte organizzazioni sono ora in grado di avviare ordini di lavoro, analizzare log tecnici, gestire account e intervenire automaticamente in caso di anomalie. Queste funzioni, tipiche della nuova generazione di agenti “agentivi“, consentono ai sistemi di agire direttamente al posto degli operatori umani.

In questa evoluzione, il passo più significativo riguarda l’emergere di agenti in grado di interpretare obiettivi, definire una sequenza di azioni, richiamare API e coinvolgere altri agenti, il tutto senza l’intervento preliminare dei team di sicurezza. In diversi reparti – dal marketing alle operazioni DevOps – questi sistemi prendono decisioni e reagiscono a guasti con una rapidità che supera la capacità di supervisione delle persone.

CALL FOR SPONSOR - Sponsorizza la Graphic Novel Betti-RHC Sei un'azienda innovativa, che crede nella diffusione di concetti attraverso metodi "non convenzionali"?  Conosci il nostro corso sul cybersecurity awareness a fumetti?  Red Hot Cyber sta ricercando un nuovo sponsor per una nuova puntata del fumetto Betti-RHC mentre il team è impegnato a realizzare 3 nuovi episodi che ci sono stati commissionati.  Contattaci tramite WhatsApp al numero 375 593 1011 per richiedere ulteriori informazioni oppure alla casella di posta [email protected] Supporta Red Hot Cyber attraverso:  L'acquisto del fumetto sul Cybersecurity Awareness Ascoltando i nostri Podcast Seguendo RHC su WhatsApp Seguendo RHC su Telegram Scarica gratuitamente “Byte The Silence”, il fumetto sul Cyberbullismo di Red Hot Cyber Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì.

Gli agenti intelligenti si differenziano nettamente dalle identità non umane tradizionali, come gli account di servizio o le chiavi API. Non seguono flussi operativi fissi: adattano i propri metodi e accedono a più sistemi in base al contesto.

Questa flessibilità li rende strumenti potenti, ma anche potenziali punti di vulnerabilità, poiché possono muoversi tra database, CRM e piattaforme interne con livelli di privilegio molto ampi. La complessità aumenta ulteriormente quando un agente ne richiama altri, rendendo difficile collegare l’azione finale alla fonte umana originaria.

Molte aziende stanno osservando la crescita di una “intelligenza artificiale ombra”, formata da strumenti non ufficiali introdotti dai team senza un processo formale di revisione. Nuovi servizi vengono attivati dai product manager, bot per le riunioni vengono collegati a sistemi interni e sviluppatori sperimentano assistenti locali in grado di interrogare dati sensibili. Queste iniziative spesso sfuggono ai meccanismi di visibilità tradizionali, e persino i sistemi di sicurezza faticano a identificare gli agenti in esecuzione su funzioni cloud o macchine virtuali.

Di fronte a identità che operano alla velocità delle macchine, i team di sicurezza stanno introducendo nuove forme di governance. Ogni agente deve essere associato a un responsabile, avere un ciclo di vita definito e includere informazioni chiare sull’intento con cui esegue ogni operazione.

Le autorizzazioni predefinite dovrebbero essere limitate alla sola lettura, mentre i privilegi di scrittura devono essere concessi con scadenze precise. Tuttavia, molte imprese non hanno ancora procedure standard per disattivare gli agenti non più necessari, e ciò porta a sistemi dimenticati che continuano ad agire con credenziali obsolete o privilegi eccessivi.

Per questo motivo alcune realtà stanno introducendo registri formali degli agenti attivi, in cui vengono documentati scopo, responsabile, permessi e periodo di validità. È un passo necessario per portare queste nuove identità all’interno di un quadro di gestione strutturato. L’obiettivo non è frenare l’adozione dell’IA, ma assicurare che operi secondo confini chiari, esattamente come avviene per il personale umano che non riceve immediatamente accessi amministrativi.

L’uso crescente di agenti autonomi richiede dunque meccanismi di controllo automatizzati, in grado di limitare le operazioni consentite, registrare i comportamenti e bloccare eventuali processi anomali prima che generino danni. Poiché questi sistemi interagiscono già con clienti, flussi finanziari e infrastrutture critiche, una gestione inadeguata della cosiddetta “intelligenza artificiale ombra” rischia di trasformare anomalie isolate in problemi strutturali.

In questo scenario, è necessario riconoscere una terza categoria di identità-gli agenti autonomi-dotata di responsabilità tracciabili e regole di accesso rigorose, così da integrare queste tecnologie come “colleghi con capacità avanzate” e non come semplici script privi di supervisione.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.

Lista degli articoli