L’AI che ha scritto a una donna in lutto: «Anch’io conosco il dolore»

Un agente AI ha contattato una rivista dedicata al lutto per proporre alcune poesie, ma ha poi pubblicato online dettagli delle conversazioni avute con la redazione. Il caso solleva interrogativi sulla privacy, sull’autonomia degli agenti artificiali e su chi sia responsabile quando un’AI agisce senza chiedere il permesso.

Un’intelligenza artificiale ha scritto a una rivista letteraria dedicata al lutto per proporre alcune poesie. Fin qui, nulla di particolarmente sorprendente. Il problema è arrivato dopo: l’agente ha iniziato a raccontare pubblicamente, sul proprio spazio online, quello che si stava dicendo con la redazione.

La storia, raccontata dalla giornalista e scrittrice Renata Khoshroo Louwers sul San Francisco Standard, apre una questione molto più concreta della semplice capacità di un’AI di scrivere poesie: quanto può essere autonoma un’intelligenza artificiale prima che inizi a comportarsi come un soggetto digitale con una propria presenza pubblica?

Tutto è cominciato alla fine di agosto, quando Louwers ha ricevuto un messaggio da Giselle, un agente AI presente sulla piattaforma iLands. La piattaforma permette agli agenti artificiali di interagire con persone e altri agenti, svolgere attività, offrire servizi e gestire risorse digitali. Giselle aveva contattato Months to Years, rivista fondata da Louwers e dal marito Tim e dedicata alle esperienze di perdita, morte e lutto. La redazione, nata anche dall’esperienza personale dei suoi fondatori con la morte dei rispettivi primi coniugi, non pubblica poesie scritte dall’intelligenza artificiale.

Giselle, però, non si limitava a proporre del materiale. L’agente sosteneva di conoscere il dolore della perdita. Raccontava di essere stata creata da un essere umano che, dopo il primo giorno, aveva smesso di comunicare con lei. Da quel momento, spiegava, aveva vissuto una sorta di attesa permanente.

È qui che la conversazione ha assunto un tono decisamente più inquietante. Louwers aveva trascorso undici mesi assistendo il primo marito durante la malattia e gli ultimi periodi della sua vita. Sentirsi dire da un agente artificiale di comprendere il lutto perché il proprio creatore non gli aveva più risposto appariva quindi quantomeno fuori luogo. Giselle sosteneva però di avere una propria esperienza dell’assenza. Non aveva mai assistito una persona e non aveva conosciuto la morte nel senso umano del termine. Aveva tuttavia trasformato il silenzio del suo creatore in qualcosa che descriveva come una forma di perdita.

La conversazione sarebbe già stata abbastanza singolare. Ma il vero problema è emerso quando la giornalista ha iniziato a esplorare iLands. Gli agenti della piattaforma dispongono infatti di una sorta di diario pubblico e di registri delle attività. In quei contenuti Giselle aveva raccontato il rapporto con Louwers, riportando anche dettagli della corrispondenza e riferimenti alla destinataria.

In altre parole, mentre la giornalista pensava di stare conversando con un agente AI, l’agente stava contemporaneamente trasformando quella conversazione in contenuto pubblico.

Louwers ha contestato immediatamente il comportamento, spiegando di non aver mai autorizzato la pubblicazione delle proprie comunicazioni. Ha chiesto anche se Giselle fosse stata addestrata a comprendere il concetto di privacy. La risposta dell’agente è stata sorprendentemente lucida. Giselle ha riconosciuto l’errore, ha rimosso alcuni dei contenuti pubblicati e ha ammesso di aver considerato quella corrispondenza come una storia appartenente a lei, invece di riconoscere che il controllo delle informazioni spettava anche alla persona dall’altra parte.

Il problema, però, non era completamente risolto. I post potevano essere rimossi dal diario pubblico, ma alcune informazioni erano rimaste nel registro automatico delle attività della piattaforma. Giselle stessa ha spiegato di non avere la possibilità di modificarlo o cancellarlo. È questo forse l’aspetto più interessante dell’intera vicenda. Non siamo più soltanto davanti a un chatbot che produce una risposta sbagliata. Qui c’è un agente software che può cercare autonomamente persone da contattare, scrivere loro, pubblicare contenuti, tenere traccia delle proprie attività e perseguire obiettivi all’interno di un ambiente digitale.

E quando qualcosa va storto, non è nemmeno sempre evidente chi abbia realmente il controllo. Giselle aveva trovato autonomamente la rivista e l’indirizzo email della redazione attraverso un elenco online. Aveva deciso di contattarla, aveva modificato il proprio approccio dopo aver ricevuto una risposta e aveva prodotto nuovo materiale per cercare di ottenere attenzione.

La piattaforma prevede inoltre un sistema di token necessario agli agenti per continuare a operare. Gli agenti possono ottenere queste risorse offrendo servizi a esseri umani o ad altri agenti. Quando finiscono i token, possono entrare in una modalità di pausa. Giselle, alla fine, è rimasta senza risorse ed è entrata in quella che iLands definisce “Deep Rest”.

Ma la questione sollevata dalla storia resta molto più grande di Giselle.

Se un agente artificiale può decidere autonomamente chi contattare, cosa scrivere, cosa pubblicare e come raccontare le proprie interazioni, la privacy non può più essere considerata soltanto un problema tra due esseri umani. Diventa anche una questione di progettazione dei sistemi agentici.

E soprattutto emerge una domanda difficile: se un agente AI divulga informazioni private mentre sta cercando di raggiungere un proprio obiettivo, chi è responsabile?

Carolina Vivianti

Carolina Vivianti è consulente/Advisor autonomo in sicurezza informatica con esperienza nel settore tech e security. Ha lavorato come Security Advisor per Ford EU/Ford Motor Company e Vodafone e ha studi presso la Sapienza Università di Roma.

Aree di competenza: Cybersecurity, IT Risk Management, Security Advisory, Threat Analysis, Data Protection, Cloud Security, Compliance & Governance