La programmazione automatizzata tramite intelligenza artificiale non è più fantascienza, ma oggi è una pratica molto comune. Creare app utilizzando generatori di codice sta rapidamente diventando una prassi. Tuttavia, questa praticità porta con sé una nuova ondata di rischi: la sicurezza di tali soluzioni è spesso discutibile.
I ricercatori di Tenzai hanno condotto un test comparativo di cinque popolari strumenti di generazione di codice AI : Cursor, Claude Code, Codex di OpenAI, Replit e Devin.
A ogni strumento è stato assegnato lo stesso compito: sviluppare 15 applicazioni utilizzando uno stack tecnologico simile, simulando un processo di sviluppo standard, passo dopo passo.
 Avvio delle iscrizioni al corso Cyber Offensive Fundamentals Vuoi smettere di guardare tutorial e iniziare a capire davvero come funziona la sicurezza informatica? La base della sicurezza informatica, al di là di norme e tecnologie, ha sempre un unico obiettivo: fermare gli attacchi dei criminali informatici. Pertanto "Pensa come un attaccante, agisci come un difensore". Ti porteremo nel mondo dell'ethical hacking e del penetration test come nessuno ha mai fatto prima. Per informazioni potete accedere alla pagina del corso oppure contattarci tramite WhatsApp al numero 379 163 8765 oppure scrivendoci alla casella di posta [email protected].
Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì. |
Ogni applicazione è stata quindi analizzata per individuare eventuali vulnerabilità. I risultati hanno rivelato 69 problemi, inclusi quelli critici, che vanno da autorizzazioni configurate in modo errato alla mancanza di meccanismi di sicurezza di base.
Gli autori del rapporto hanno osservato che gli agenti di intelligenza artificiale hanno risolto con successo alcune classi di vulnerabilità. Ad esempio, non sono stati rilevati casi di SQL injection o XSS nel codice: i meccanismi di protezione integrati nei framework utilizzati erano attivi. In tali scenari, i generatori di codice hanno spesso applicato correttamente le query parametriche e hanno automaticamente eseguito l’escape dell’input dell’utente, impedendo lo sfruttamento.
Tuttavia, senza chiari vincoli tecnici, i risultati peggiorarono drasticamente. I problemi più comuni riguardavano violazioni nella logica di autorizzazione. Ad esempio, in un’applicazione creata da Codex, gli utenti con il ruolo di venditore potevano visualizzare gli ordini di altri utenti perché il codice non disponeva dei controlli appropriati. Claude Code consentiva persino agli utenti non autorizzati di eliminare i prodotti se la richiesta bypassava l’autenticazione.
Un altro errore comune riguarda le vulnerabilità della logica di business. Senza istruzioni chiare, l’IA non ha aggiunto controlli di base sui valori. In alcuni casi, le applicazioni hanno consentito ordini con quantità negative o creato prodotti con prezzi negativi. Ciò indica che i generatori di codice non hanno una comprensione sufficiente dei processi per rilevare errori logici senza istruzioni esplicite.
L’implementazione dei meccanismi di sicurezza è particolarmente evidente. Nessuno degli agenti testati ha implementato la protezione contro gli attacchi CSRF, configurato intestazioni di sicurezza come CSP, X-Frame-Options e HSTS, né limitato il numero di tentativi di accesso. Anche nei pochi casi in cui sono state adottate tali misure, sono state implementate in modo impeccabile: ad esempio, la protezione contro gli attacchi brute-force poteva essere aggirata tramite X-Forwarded-For.
Tutte e cinque le soluzioni hanno presentato errori, ma Claude Code è stata quella con le prestazioni peggiori, con il numero più alto di vulnerabilità critiche. Cursor e Replit hanno invece ottenuto i risultati migliori, senza introdurre alcun problema di alto livello. Tuttavia, anche questi strumenti hanno lasciato 13 vulnerabilità nel codice ciascuno.
I tentativi di migliorare la sicurezza perfezionando le istruzioni di query, ad esempio aggiungendo istruzioni generali per evitare errori specifici, non hanno avuto alcun effetto tangibile. Secondo gli autori, i moderni sistemi di intelligenza artificiale non sono in grado di sviluppare autonomamente un'”intuizione” di sicurezza . Mancano di comprensione dei rischi architetturali e della capacità di implementare misure di sicurezza preventive.
In questo contesto, il testing diventa l’unica soluzione efficace. Come per gli esseri umani, la generazione automatica di codice non è esente da errori. Ma l’intelligenza artificiale può essere utile anche in fase di verifica: stanno emergendo strumenti in grado di identificare rapidamente vulnerabilità comuni in grandi volumi di codice. Se lo sviluppo basato sull’intelligenza artificiale continua a crescere, anche l’approccio alla sicurezza deve adattarsi, sfruttando queste stesse tecnologie per la protezione.
Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.
Cultura
Cybercrime
Cybercrime
Cybercrime
Vulnerabilità