Parli con Claude e ti ritrovi in arresto. Succede ad una donna negli USA

Una donna della Florida è stata arrestata dopo che una conversazione con Claude, il chatbot di Anthropic, è stata segnalata come minaccia. Il sistema di sicurezza dell’intelligenza artificiale ha identificato parole chiave pericolose, ha attivato una revisione umana e ha informato le autorità. L’intervento ha portato all’arresto di Carly Michelle Heller, accusata di minacciare lo sceriffo della contea di Lee. Il caso evidenzia i limiti della privacy nei chatbot e le politiche di divulgazione dei dati quando vi è rischio di danni fisici.

Una conversazione con un’intelligenza artificiale si è rivelata meno privata di un diario personale. Una donna in Florida è stata arrestata dopo che il sistema di sicurezza di Anthropic ha rilevato una minaccia di attacco all’ufficio dello sceriffo nella sua corrispondenza con Claude, ha trasferito la conversazione per una revisione manuale e i dipendenti dell’azienda hanno segnalato il contenuto alle forze dell’ordine.

Un rapporto di arresto esaminato da WINK News collega il caso a due messaggi. Il 26 settembre, un’utente ha scritto della sua intenzione di sparare contro l’ufficio dello sceriffo della contea di Lee e, il giorno successivo, ha affermato di aver acquistato una nuova arma. Gli investigatori ritengono che la gravità del linguaggio utilizzato abbia fatto degenerare la conversazione all’interno di Anthropic.

Secondo gli inquirenti, i meccanismi automatizzati della piattaforma monitorano frasi chiave e contenuti potenzialmente pericolosi. Dopo l’attivazione del sistema di protezione, un team ha esaminato la corrispondenza e ha deciso di contattare la polizia. Claude stesso non ha sporto denuncia, quindi il caso si è basato su una combinazione di rilevamento automatizzato e verifica umana.

Gli agenti dell’ufficio dello sceriffo hanno identificato la trentenne Carly Michelle Heller e l’hanno arrestata nella sua abitazione senza incidenti. Lo sceriffo Carmine Marceno ha dichiarato che la Heller si riferiva all’intelligenza artificiale come al suo “diario”. È stata accusata di aver formulato una minaccia scritta di violenza. Lo statuto della Florida 836.10 disciplina le registrazioni elettroniche contenenti minacce di sparatorie di massa e classifica la violazione come reato di secondo grado.

Questo caso dimostra i limiti pratici della privacy dei chatbot . Anthropic dichiara di poter divulgare informazioni senza una richiesta legale standard se ritiene la situazione urgente e la divulgazione potrebbe prevenire un danno fisico imminente o la morte. La politica pubblica affronta esplicitamente questo scenario, quindi la conversazione con Claude non può essere considerata una registrazione accessibile solo al titolare dell’account.

Un episodio simile si è verificato a settembre con ChatGPT, quando OpenAI ha fornito informazioni alle autorità dopo aver scoperto una minaccia per un minore. Anche in quel caso, la conversazione è andata oltre la tipica interazione con un chatbot ed è entrata a far parte di un’indagine di polizia. Le circostanze dei due casi sono diverse, ma entrambi dimostrano che i messaggi nei servizi di intelligenza artificiale possono raggiungere sia il pubblico che le forze dell’ordine.

La colpevolezza di Heller non è stata ancora accertata dal tribunale. Secondo WINK News, un’udienza è prevista per novembre. Anthropic non ha reso pubblici i criteri interni in base ai quali una specifica conversazione è passata dal filtro automatico a un operatore umano e, successivamente, alle forze dell’ordine. Pertanto, la soglia esatta oltre la quale una conversazione di un utente viene considerata un messaggio di emergenza rimane sconosciuta. L’esito del caso è ancora incerto.

Carolina Vivianti

Carolina Vivianti è consulente/Advisor autonomo in sicurezza informatica con esperienza nel settore tech e security. Ha lavorato come Security Advisor per Ford EU/Ford Motor Company e Vodafone e ha studi presso la Sapienza Università di Roma.

Aree di competenza: Cybersecurity, IT Risk Management, Security Advisory, Threat Analysis, Data Protection, Cloud Security, Compliance & Governance