Assicurazione contro le allucinazioni dell’IA? Ora puoi proteggerti dai suoi errori

Redazione RHC : 12 Maggio 2025 14:23

Le aziende preoccupate per le conseguenze degli errori dell’intelligenza artificiale possono ora ottenere una protezione assicurativa contro i suoi capricci: sul mercato Lloyd’s di Londra è stato lanciato un nuovo prodotto che copre le perdite derivanti da guasti e allucinazioni dei sistemi di intelligenza artificiale. La polizza è stata sviluppata dalla startup Armilla, accelerata da Y Combinator, ed è già stata approvata da numerose compagnie assicurative Lloyd’s.

La nuova assicurazione è pensata per le organizzazioni che utilizzano l’intelligenza artificiale nel servizio clienti, nel marketing o nelle operazioni e rischiano di essere citate in giudizio se il loro algoritmo commette un errore. La polizza copre le spese di difesa legale e l’eventuale risarcimento in caso di richiesta di risarcimento da parte di clienti o terzi che abbiano subito danni a causa del non corretto funzionamento dell’IA.

La decisione è stata presa in seguito a una serie di incidenti divenuti di dominio pubblico. A gennaio, Virgin Money ha dovuto scusarsi dopo che il loro chatbot aveva rimproverato un cliente per aver utilizzato la parola “vergine”. In precedenza, il servizio di corriere DPD era stato costretto a disattivare parte del suo bot dopo che quest’ultimo aveva iniziato a imprecare e a definire l’azienda “il peggior servizio di consegna al mondo”. In un altro caso, un tribunale ha ordinato ad Air Canada di onorare uno sconto fittizio creato dal suo assistente AI. La paranoia digitale è il nuovo buon senso.

Sponsorizza la prossima Red Hot Cyber Conference! Il giorno Lunedì 18 maggio e martedì 19 maggio 2026 9 maggio 2026, presso il teatro Italia di Roma (a due passi dalla stazione termini e dalla metro B di Piazza Bologna), si terrà la V edizione della la RHC Conference.  Si tratta dell’appuntamento annuale gratuito, creato dalla community di RHC, per far accrescere l’interesse verso le tecnologie digitali, l’innovazione digitale e la consapevolezza del rischio informatico.  Se sei interessato a sponsorizzare l'evento e a rendere la tua azienda protagonista del più grande evento della Cybersecurity Italiana, non perdere questa opportunità. E ricorda che assieme alla sponsorizzazione della conferenza, incluso nel prezzo, avrai un pacchetto di Branding sul sito di Red Hot Cyber composto da Banner più un numero di articoli che saranno ospitati all'interno del nostro portale.  Quindi cosa stai aspettando? Scrivici subito a [email protected] per maggiori informazioni e per accedere al programma sponsor e al media Kit di Red Hot Cyber. Supporta Red Hot Cyber attraverso:  L'acquisto del fumetto sul Cybersecurity Awareness Ascoltando i nostri Podcast Seguendo RHC su WhatsApp Seguendo RHC su Telegram Scarica gratuitamente “Byte The Silence”, il fumetto sul Cyberbullismo di Red Hot Cyber Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì.

Nel caso di Air Canada, le perdite derivanti dalla vendita sottocosto dei biglietti avrebbero potuto essere coperte da un nuovo prodotto assicurativo se si fosse scoperto che il bot aveva effettivamente funzionato peggio di quanto pubblicizzato, ha affermato Armilla. Armilla ritiene che la copertura assicurativa aiuterà le aziende a implementare l’intelligenza artificiale con maggiore sicurezza, riducendo le preoccupazioni relative ai rischi legali. Molte aziende stanno ora abbandonando le soluzioni di intelligenza artificiale proprio a causa della mancanza di meccanismi in grado di compensare eventuali danni.

A differenza delle tradizionali polizze assicurative sull’intelligenza artificiale, che spesso limitano i risarcimenti a 25.000 dollari, il prodotto di Armilla offre un limite più elevato e tiene conto delle specificità dei modelli linguistici di addestramento. Ad esempio, se inizialmente l’IA forniva risposte accurate nel 95% dei casi, ma poi la precisione scendeva all’85%, la polizza potrebbe coprire le perdite derivanti dal peggioramento delle prestazioni.

Per fare questo, gli specialisti di Armilla analizzano in anticipo il comportamento del modello e prevedono la probabilità del suo “degrado”. L’assicurazione funzionerà solo se le prestazioni effettive dell’IA si riveleranno inferiori al livello inizialmente dichiarato.

Tuttavia, le compagnie assicurative promettono di non assumersi rischi eccessivi. Tom Graham di Chaucer, una delle società del Lloyd’s coinvolte nel progetto, ha affermato che non avrebbe assicurato sistemi intrinsecamente inaffidabili. Secondo lui, l’approccio rimarrà selettivo, come in qualsiasi altro settore assicurativo.

Pertanto, sullo sfondo della rapida crescita dell’uso dell’intelligenza artificiale, le aziende hanno ricevuto il primo meccanismo assicurativo specializzato che tiene conto delle caratteristiche e delle vulnerabilità dei modelli linguistici. Questo potrebbe rappresentare una svolta per l’adozione su larga scala degli strumenti di intelligenza artificiale nelle infrastrutture aziendali.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.

Lista degli articoli