Assicurazione contro le allucinazioni dell’IA? Ora puoi proteggerti dai suoi errori

Redazione RHC : 12 Maggio 2025 14:23

Le aziende preoccupate per le conseguenze degli errori dell’intelligenza artificiale possono ora ottenere una protezione assicurativa contro i suoi capricci: sul mercato Lloyd’s di Londra è stato lanciato un nuovo prodotto che copre le perdite derivanti da guasti e allucinazioni dei sistemi di intelligenza artificiale. La polizza è stata sviluppata dalla startup Armilla, accelerata da Y Combinator, ed è già stata approvata da numerose compagnie assicurative Lloyd’s.

La nuova assicurazione è pensata per le organizzazioni che utilizzano l’intelligenza artificiale nel servizio clienti, nel marketing o nelle operazioni e rischiano di essere citate in giudizio se il loro algoritmo commette un errore. La polizza copre le spese di difesa legale e l’eventuale risarcimento in caso di richiesta di risarcimento da parte di clienti o terzi che abbiano subito danni a causa del non corretto funzionamento dell’IA.

La decisione è stata presa in seguito a una serie di incidenti divenuti di dominio pubblico. A gennaio, Virgin Money ha dovuto scusarsi dopo che il loro chatbot aveva rimproverato un cliente per aver utilizzato la parola “vergine”. In precedenza, il servizio di corriere DPD era stato costretto a disattivare parte del suo bot dopo che quest’ultimo aveva iniziato a imprecare e a definire l’azienda “il peggior servizio di consegna al mondo”. In un altro caso, un tribunale ha ordinato ad Air Canada di onorare uno sconto fittizio creato dal suo assistente AI. La paranoia digitale è il nuovo buon senso.

Christmas Sale -40% 𝗖𝗵𝗿𝗶𝘀𝘁𝗺𝗮𝘀 𝗦𝗮𝗹𝗲! Sconto del 𝟰𝟬% 𝘀𝘂𝗹 𝗽𝗿𝗲𝘇𝘇𝗼 𝗱𝗶 𝗰𝗼𝗽𝗲𝗿𝘁𝗶𝗻𝗮 del Corso "Dark Web & Cyber Threat Intelligence" in modalità E-Learning sulla nostra Academy!🚀 Fino al 𝟯𝟭 𝗱𝗶 𝗗𝗶𝗰𝗲𝗺𝗯𝗿𝗲, prezzi pazzi alla Red Hot Cyber Academy. 𝗧𝘂𝘁𝘁𝗶 𝗶 𝗰𝗼𝗿𝘀𝗶 𝘀𝗰𝗼𝗻𝘁𝗮𝘁𝗶 𝗱𝗲𝗹 𝟰𝟬% 𝘀𝘂𝗹 𝗽𝗿𝗲𝘇𝘇𝗼 𝗱𝗶 𝗰𝗼𝗽𝗲𝗿𝘁𝗶𝗻𝗮. Per beneficiare della promo sconto Christmas Sale, scrivici ad [email protected] o contattaci su Whatsapp al numero di telefono: 379 163 8765. Supporta Red Hot Cyber attraverso:  L'acquisto del fumetto sul Cybersecurity Awareness Ascoltando i nostri Podcast Seguendo RHC su WhatsApp Seguendo RHC su Telegram Scarica gratuitamente “Byte The Silence”, il fumetto sul Cyberbullismo di Red Hot Cyber Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì.

Nel caso di Air Canada, le perdite derivanti dalla vendita sottocosto dei biglietti avrebbero potuto essere coperte da un nuovo prodotto assicurativo se si fosse scoperto che il bot aveva effettivamente funzionato peggio di quanto pubblicizzato, ha affermato Armilla. Armilla ritiene che la copertura assicurativa aiuterà le aziende a implementare l’intelligenza artificiale con maggiore sicurezza, riducendo le preoccupazioni relative ai rischi legali. Molte aziende stanno ora abbandonando le soluzioni di intelligenza artificiale proprio a causa della mancanza di meccanismi in grado di compensare eventuali danni.

A differenza delle tradizionali polizze assicurative sull’intelligenza artificiale, che spesso limitano i risarcimenti a 25.000 dollari, il prodotto di Armilla offre un limite più elevato e tiene conto delle specificità dei modelli linguistici di addestramento. Ad esempio, se inizialmente l’IA forniva risposte accurate nel 95% dei casi, ma poi la precisione scendeva all’85%, la polizza potrebbe coprire le perdite derivanti dal peggioramento delle prestazioni.

Per fare questo, gli specialisti di Armilla analizzano in anticipo il comportamento del modello e prevedono la probabilità del suo “degrado”. L’assicurazione funzionerà solo se le prestazioni effettive dell’IA si riveleranno inferiori al livello inizialmente dichiarato.

Tuttavia, le compagnie assicurative promettono di non assumersi rischi eccessivi. Tom Graham di Chaucer, una delle società del Lloyd’s coinvolte nel progetto, ha affermato che non avrebbe assicurato sistemi intrinsecamente inaffidabili. Secondo lui, l’approccio rimarrà selettivo, come in qualsiasi altro settore assicurativo.

Pertanto, sullo sfondo della rapida crescita dell’uso dell’intelligenza artificiale, le aziende hanno ricevuto il primo meccanismo assicurativo specializzato che tiene conto delle caratteristiche e delle vulnerabilità dei modelli linguistici. Questo potrebbe rappresentare una svolta per l’adozione su larga scala degli strumenti di intelligenza artificiale nelle infrastrutture aziendali.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.

Lista degli articoli