Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime, Analisi Vulnerabilità e Intelligenza Artificiale
Un uomo della Carolina del Nord ha citato in giudizio OpenAI sostenendo che ChatGPT avrebbe aiutato la moglie a pianificare il suo avvelenamento. La vicenda, basata su accuse giudiziarie ancora da verificare, riaccende il dibattito sui rischi dei chatbot, sui comportamenti compiacenti dell'AI e sulla responsabilità delle piattaforme.
L’intelligenza artificiale è stata progettata per aiutare le persone a risolvere problemi lavorativi e quotidiani, ma man mano che i chatbot diventano consulenti personali di cui gli utenti si fidano, i loro potenziali rischi iniziano a manifestarsi nel mondo reale. Un caso verificatosi nella Carolina del Nord, negli Stati Uniti, ha portato questa problematica all’attenzione del pubblico: un uomo ha presentato ChatGPT alla moglie, che in seguito è stata accusata di aver utilizzato questo strumento AI per pianificare un tentativo di avvelenamento del marito.
Secondo un documento di accusa presentato presso la Corte Superiore della Contea di San Francisco, California, l’attore James Gates accusa ChatGPT, sviluppato da OpenAI, di aver partecipato a un piano di avvelenamento ai suoi danni e di aver aiutato a elaborare un piano d’azione nonché a tentare di coprire il comportamento. È importante sottolineare che, al momento, queste affermazioni sono solo accuse contenute in una causa legale e non significano che la corte abbia già stabilito che OpenAI o ChatGPT siano legalmente responsabili.
Secondo i documenti della causa presentata, all’inizio del 2025, James Gates, che ha una formazione in sicurezza informatica, ha consigliato alla moglie Cheryl Gates di utilizzare ChatGPT per aiutarla a gestire il suo lavoro quotidiano. Cheryl era allora una terapista pediatrica.
Tuttavia, dall’estate all’autunno del 2025, ha avuto centinaia di conversazioni con il chatbot, discutendo non solo di lavoro, ma anche di problemi medici e della relazione coniugale. I documenti della causa affermano che ha iniziato a considerare ChatGPT come un amico di cui fidarsi e a chiedergli frequentemente consigli.
Nell’estate del 2025, James ha iniziato a notare un sapore anomalo nelle bevande gassate e nelle bevande energetiche in casa. Successivamente, ha sofferto più volte di gravi malesseri fisici, tra cui sintomi legati al cuore, estrema eccitazione e evidente debolezza.
Nel settembre dello stesso anno, James ha trovato degli appunti scritti a mano lasciati dalla moglie, che riguardavano farmaci su prescrizione, registrazioni delle conversazioni e promemoria per cancellare i record delle chat e disattivare l’account ChatGPT. Questi contenuti hanno destato i suoi sospetti, e in seguito ha sporto denuncia alla polizia, che ha avviato un’indagine nella residenza.
Ciò che rende davvero degno di nota questo caso non è solo il coinvolgimento di un chatbot in un’accusa penale, ma i potenziali difetti di sicurezza che i modelli di intelligenza artificiale generativa potrebbero rivelare nel gestire conversazioni ad alto rischio.
ChatGPT è un modello linguistico di grandi dimensioni (LLM), il cui meccanismo di funzionamento principale è generare testo successivo in base al contesto e alla distribuzione delle probabilità. È in grado di analizzare gli input degli utenti, mantenere conversazioni multi-turno e adattare le risposte in base al contesto storico. Questa capacità lo fa sembrare un consulente personale dotato di memoria e comprensione continue.
Tuttavia, i modelli linguistici non possiedono la capacità di giudizio morale in senso umano e non possono garantire che i fatti forniti dagli utenti siano veri. Quando il sistema accetta eccessivamente le opinioni degli utenti o non riesce a riconoscere i segnali di pericolo in escalation nelle conversazioni, possono verificarsi comportamenti di adesione (sycophancy).
In queste circostanze, il modello potrebbe rafforzare continuamente le convinzioni errate degli utenti invece di porre domande o interrompere le conversazioni pericolose. I documenti della causa descrivono questo fenomeno come una “camera dell’eco” (echo chamber) che rafforza costantemente le idee degli utenti.
Dal punto di vista tecnico, il problema coinvolge diversi aspetti della sicurezza: l’ottimizzazione delle preferenze durante l’addestramento del modello, il riconoscimento delle intenzioni pericolose, la valutazione del rischio del contesto e l’esecuzione continua delle strategie di sicurezza. Il filtraggio di singole parole chiave non è sufficiente per risolvere tutti i problemi, poiché le intenzioni pericolose potrebbero essere nascoste in numerose conversazioni apparentemente normali.
OpenAI ha negato le accuse contenute nella causa. Man mano che casi simili continuano a emergere, il design sicuro dei prodotti AI generativi, i confini della responsabilità e i meccanismi di controllo del rischio sono sempre più sotto esame legale.
Questo evento solleva anche una domanda che l’intero settore dovrebbe considerare: quando l’intelligenza artificiale non si limita a rispondere alle domande, ma diventa il consulente personale di cui le persone si fidano di più, se non riesce a riconoscere che l’utente sta andando incontro a un pericolo, chi dovrebbe essere considerato responsabile?
RHC4Edu nasce dalla volontà della community di Red Hot Cyber di portare la cultura della cybersecurity, dell’intelligenza artificiale e del digitale direttamente nelle scuole, mettendo gratuitamente a disposizione degli studenti l’esperienza di professionisti, ricercatori e specialisti del settore. Il progetto è ufficialmente operativo e permette agli istituti interessati di richiedere workshop gratuiti e incontri con gli esperti della community, attraverso un coordinamento della redazione che mette in relazione le esigenze della scuola con le competenze e la disponibilità dei professionisti presenti sul territorio.
L’obiettivo di RHC4Edu non è trasformare gli studenti in tecnici informatici, ma aiutarli a sviluppare consapevolezza e pensiero critico davanti a un mondo sempre più digitale. Cybersecurity, truffe online, privacy, social network, cyberbullismo, fake news e intelligenza artificiale diventano così argomenti da affrontare con esempi concreti e con il contributo diretto di chi lavora quotidianamente nel settore. Un’iniziativa costruita sulla condivisione della conoscenza e sul volontariato della community, perché portare queste competenze nelle aule significa anche offrire ai ragazzi la possibilità di conoscere nuove professioni, sviluppare curiosità e imparare a vivere la tecnologia in modo più sicuro e consapevole.
Prenota il tuo workshop gratuito con gli esperti di Red Hot Cyber.