Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime e Analisi Vulnerabilità
Le aziende preoccupate per le conseguenze degli errori dell’intelligenza artificiale possono ora ottenere una protezione assicurativa contro i suoi capricci: sul mercato Lloyd’s di Londra è stato lanciato un nuovo prodotto che copre le perdite derivanti da guasti e allucinazioni dei sistemi di intelligenza artificiale. La polizza è stata sviluppata dalla startup Armilla, accelerata da Y Combinator, ed è già stata approvata da numerose compagnie assicurative Lloyd’s.
La nuova assicurazione è pensata per le organizzazioni che utilizzano l’intelligenza artificiale nel servizio clienti, nel marketing o nelle operazioni e rischiano di essere citate in giudizio se il loro algoritmo commette un errore. La polizza copre le spese di difesa legale e l’eventuale risarcimento in caso di richiesta di risarcimento da parte di clienti o terzi che abbiano subito danni a causa del non corretto funzionamento dell’IA.
La decisione è stata presa in seguito a una serie di incidenti divenuti di dominio pubblico. A gennaio, Virgin Money ha dovuto scusarsi dopo che il loro chatbot aveva rimproverato un cliente per aver utilizzato la parola “vergine”. In precedenza, il servizio di corriere DPD era stato costretto a disattivare parte del suo bot dopo che quest’ultimo aveva iniziato a imprecare e a definire l’azienda “il peggior servizio di consegna al mondo”. In un altro caso, un tribunale ha ordinato ad Air Canada di onorare uno sconto fittizio creato dal suo assistente AI. La paranoia digitale è il nuovo buon senso.
Nel caso di Air Canada, le perdite derivanti dalla vendita sottocosto dei biglietti avrebbero potuto essere coperte da un nuovo prodotto assicurativo se si fosse scoperto che il bot aveva effettivamente funzionato peggio di quanto pubblicizzato, ha affermato Armilla. Armilla ritiene che la copertura assicurativa aiuterà le aziende a implementare l’intelligenza artificiale con maggiore sicurezza, riducendo le preoccupazioni relative ai rischi legali. Molte aziende stanno ora abbandonando le soluzioni di intelligenza artificiale proprio a causa della mancanza di meccanismi in grado di compensare eventuali danni.
A differenza delle tradizionali polizze assicurative sull’intelligenza artificiale, che spesso limitano i risarcimenti a 25.000 dollari, il prodotto di Armilla offre un limite più elevato e tiene conto delle specificità dei modelli linguistici di addestramento. Ad esempio, se inizialmente l’IA forniva risposte accurate nel 95% dei casi, ma poi la precisione scendeva all’85%, la polizza potrebbe coprire le perdite derivanti dal peggioramento delle prestazioni.
Per fare questo, gli specialisti di Armilla analizzano in anticipo il comportamento del modello e prevedono la probabilità del suo “degrado”. L’assicurazione funzionerà solo se le prestazioni effettive dell’IA si riveleranno inferiori al livello inizialmente dichiarato.
Tuttavia, le compagnie assicurative promettono di non assumersi rischi eccessivi. Tom Graham di Chaucer, una delle società del Lloyd’s coinvolte nel progetto, ha affermato che non avrebbe assicurato sistemi intrinsecamente inaffidabili. Secondo lui, l’approccio rimarrà selettivo, come in qualsiasi altro settore assicurativo.
Pertanto, sullo sfondo della rapida crescita dell’uso dell’intelligenza artificiale, le aziende hanno ricevuto il primo meccanismo assicurativo specializzato che tiene conto delle caratteristiche e delle vulnerabilità dei modelli linguistici. Questo potrebbe rappresentare una svolta per l’adozione su larga scala degli strumenti di intelligenza artificiale nelle infrastrutture aziendali.
Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.
Innovazione
Cybercrime
Vulnerabilità
Innovazione
Cyber Italia