Intelligenza Artificiale Generativa: crescita esplosiva e sfide per la sicurezza

Di Umberto Pirovano, Senior Manager Technical Solutions di Palo Alto Networks

L’Intelligenza Artificiale Generativa (GenAI) sta ridefinendo il panorama tecnologico e aziendale a una velocità sorprendente. Secondo il report di Palo Alto Networks “The State of Generative AI in 2025”, il traffico GenAI ha registrato un’impennata di oltre l’890% nel 2024. Questa crescita esplosiva è attribuibile alla maturazione dei modelli di AI, alla sempre più spinta automazione aziendale e a una maggiore diffusione, guidata da ritorni di produttività sempre più evidenti. L’aumento in termini di adozione e utilizzo segna un passaggio definitivo: la GenAI non è più una novità, ma una utility essenziale.

Secondo la Ricerca dell’Osservatorio Artificial Intelligencedel Politecnico di Milano, nel 2024 in Italia è stata laGenAIa trainare il mercato dell’intelligenza artificiale: ben il43%della spesa in questa tipologia di soluzioni riguardava esclusivamente la GenAI o progetti ibridi, che includevano anche quella tradizionale.

Avvio delle iscrizioni al corso Cyber Offensive Fundamentals Vuoi smettere di guardare tutorial e iniziare a capire davvero come funziona la sicurezza informatica? La base della sicurezza informatica, al di là di norme e tecnologie, ha sempre un unico obiettivo: fermare gli attacchi dei criminali informatici. Pertanto "Pensa come un attaccante, agisci come un difensore". Ti porteremo nel mondo dell'ethical hacking e del penetration test come nessuno ha mai fatto prima. Per informazioni potete accedere alla pagina del corso oppure contattarci tramite WhatsApp al numero 379 163 8765 oppure scrivendoci alla casella di posta [email protected]. Supporta Red Hot Cyber attraverso:  L'acquisto del fumetto sul Cybersecurity Awareness Ascoltando i nostri Podcast Seguendo RHC su WhatsApp Seguendo RHC su Telegram Scarica gratuitamente “Byte The Silence”, il fumetto sul Cyberbullismo di Red Hot Cyber Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì.

Tuttavia, questa rapida espansione porta con sé sfide significative, in particolare per quanto riguarda la sicurezza dei dati. Gli incidenti di prevenzione della perdita di dati (DLP) legati alla GenAI sono più che raddoppiati: nel 2025, il numero medio mensile è aumentato di 2,5 volte, rappresentando ora il 14% di tutti gli incidenti legati ai dati. Le applicazioni di GenAI amplificano un vettore crescente di perdita di informazioni, poiché un utilizzo non consentito o disattento può portare a fughe di proprietà intellettuale, problemi di conformità normativa e violazioni.

Le aziende hanno rilevato in media 66 applicazioni GenAI in uso, di cui il 10% classificate come ad alto rischio. L’utilizzo diffuso di strumenti non autorizzati, la mancanza di policy di AI chiare e la pressione ad adottare rapidamente questa tecnologia – senza adeguati controlli di sicurezza – possono esporre le imprese a rischi significativi.

La maggioranza delle transazioni di GenAI (83,8%) deriva da quattro casi d’uso principali: assistenti di scrittura, agenti conversazionali, ricerca aziendale e piattaforme per sviluppatori. Si tratta di tool popolari tra i dipendenti perché eseguono direttamente attività quotidiane e ripetitive. Gli assistenti di scrittura, ad esempio, supportano gli utenti nelle varie fasi di preparazione di un testo, dalla stesura di email alla generazione di post fino alla creazione di report. Gli agenti conversazionali offrono invece risposte istantanee in linguaggio naturale a un’ampia gamma di domande, rendendoli utili nel servizio clienti, nell’apprendimento e nella produttività.

Che le tecnologie di GenAI stiano già dimostrando un impatto positivo in numerose aree è più che evidente, come emerso anche dal report di Gartner “Inform Your Generative AI Strategy With Healthcare Provider Case Examples“. Nel settore sanitario, ad esempio, si possono citare la documentazione clinica automatizzata, il supporto alle decisioni cliniche e la personalizzazione del percorso di cura del paziente.

Anche in Italia, settori cruciali come Oil & Gas, servizi finanziari, assicurativo e sanitario, che gestiscono e conservano dati e informazioni altamente sensibili, stanno integrando la GenAI nelle loro attività per ottimizzare le operazioni, snellire i processi e incrementare efficienza e produttività. Tuttavia, il loro utilizzo rappresenta un rischio intrinseco visto il potenziale da parte degli utenti di inserire informazioni ancora riservate, esponendole così a furto o esfiltrazione. Infatti, pur avendo a disposizione applicazioni controllate e protette dalla propria azienda, non tutti i dipendenti le utilizzano, affidandosi invece ad app di terze parti, magari percepite come più efficienti, comode o semplicemente più facili da usare.

In virtù delle sue avanzate capacità di analisi predittiva, l’intelligenza artificiale rappresenta inoltre un pilastro fondamentale nella prevenzione. Attraverso l’elaborazione di dati storici e informazioni in tempo reale, i sistemi AI sono in grado di prefigurare e segnalare potenziali problematiche prima che queste possano generare conseguenze negative. Ad esempio, nel contesto finanziario, ciò si traduce nella capacità di rilevare transazioni fraudolente, mitigando le perdite economiche; in ambito sanitario, l’AI può contribuire a salvare vite umane prevedendo gli esiti clinici dei pazienti e suggerendo appropriate misure preventive.

Sfide e rischi della GenAI

L’intelligenza artificiale è una tecnologia emergente che sta catalizzando un notevole interesse. Tuttavia, è fondamentale essere consapevoli delle potenziali sfide e complessità che essa comporta. Con un numero sempre più esteso di aziende che sperimentano app GenAI di terze parti, è importante comprendere appieno il panorama di rischio:

• Mancanza di visibilità sull’utilizzo dell’AI: la “Shadow AI” rende difficile per i team di sicurezza monitorare e controllare come gli strumenti di GenAI vengono utilizzati in azienda.
• Accesso non autorizzato ed esposizione dei dati: difficoltà nel limitare l’accesso agli strumenti di GenAI tramite account personali o nel rilevare (e bloccare) quando gli utenti caricano dati sensibili.
• Interazioni AI insicure: modelli di AI “jailbroken” o manipolati possono rispondere con link dannosi e malware, o consentire il loro utilizzo per scopi non intenzionali.
• Proliferazione di plugin, copilot e agenti AI: ecosistemi di AI complessi con plugin per browser, agenti AI, bot e copilot creano un “ingresso laterale” spesso trascurato, aumentando le vulnerabilità.

In conclusione, mentre la GenAI offre opportunità senza precedenti per innovazione ed efficienza, è imperativo che le aziende adottino un approccio proattivo e strategico alla gestione dei rischi. Consapevolezza, formazione degli utenti e implementazione di policy robuste e misure concrete di sicurezza sono passi fondamentali per sfruttare appieno il potenziale della GenAI e proteggere le risorse più preziose: i dati.

Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.

Redazione

La redazione di Red Hot Cyber è composta da professionisti del settore IT e della sicurezza informatica, affiancati da una rete di fonti qualificate che operano anche in forma riservata. Il team lavora quotidianamente nell’analisi, verifica e pubblicazione di notizie, approfondimenti e segnalazioni su cybersecurity, tecnologia e minacce digitali, con particolare attenzione all’accuratezza delle informazioni e alla tutela delle fonti. Le informazioni pubblicate derivano da attività di ricerca diretta, esperienza sul campo e contributi provenienti da contesti operativi nazionali e internazionali.