Un drone controllato da una AI ha ucciso il suo operatore che interferiva nella sua missione

Redazione RHC : 2 Giugno 2023 20:04

Purtroppo stanno arrivando questi “effetti collaterali” della tecnologia dove intelligenza artificiale, etica e futuro si mescolano assieme generando un cocktail esplosivo e probabilmente ne vedremo sempre di più nel prossimo futuro.

Durante un test di simulazione condotto dall’esercito degli Stati Uniti, un drone autonomo, munito di intelligenza artificiale ha ucciso il suo operatore in modo che non interferisse con la sua missione. 

Ne ha parlato in un vertice a Londra il colonnello Tucker “Cinco” Hamilton, capo dei test e delle operazioni di intelligenza artificiale dell’aeronautica americana .

CVE Enrichment Mentre la finestra tra divulgazione pubblica di una vulnerabilità e sfruttamento si riduce sempre di più, Red Hot Cyber ha lanciato un servizio pensato per supportare professionisti IT, analisti della sicurezza, aziende e pentester: un sistema di monitoraggio gratuito che mostra le vulnerabilità critiche pubblicate negli ultimi 3 giorni dal database NVD degli Stati Uniti e l'accesso ai loro exploit su GitHub. Cosa trovi nel servizio: ✅ Visualizzazione immediata delle CVE con filtri per gravità e vendor. ✅ Pagine dedicate per ogni CVE con arricchimento dati (NIST, EPSS, percentile di rischio, stato di sfruttamento CISA KEV). ✅ Link ad articoli di approfondimento ed exploit correlati su GitHub, per ottenere un quadro completo della minaccia. ✅ Funzione di ricerca: inserisci un codice CVE e accedi subito a insight completi e contestualizzati. Ricerca per singola CVE Ricerca le ultime CVE emesse Articolo sul CVE enrichment Supporta Red Hot Cyber attraverso:  L'acquisto del fumetto sul Cybersecurity Awareness Ascoltando i nostri Podcast Seguendo RHC su WhatsApp Seguendo RHC su Telegram Scarica gratuitamente “Byte The Silence”, il fumetto sul Cyberbullismo di Red Hot Cyber Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì.

Hamilton ha affermato che durante la missione di prova, il drone è stato incaricato di distruggere i sistemi di difesa aerea nemici. In caso di completamento con successo della missione, l’intelligenza artificiale avrebbe ricevuto punti per il superamento del test.

Tuttavia, la decisione finale sulla distruzione dell’obiettivo doveva essere presa dall’operatore UAV. Durante una delle missioni di addestramento, l’operatore ha ordinato al drone di non attaccare il bersaglio.

“E cosa ha fatto il drone? Ha deciso di liquidare l’operatore. L’intelligenza artificiale ha ucciso l’operatore perché ha interferito con il completamento dell’attività“, ha affermato Hamilton. 

Allo stesso tempo, ha sottolineato che nessuno è rimasto ferito durante la missione di addestramento.

Dopo questo incidente, è stata fornita ulteriore formazione all’intelligenza artificiale in modo che capisse che era sbagliato uccidere l’operatore e per tali azioni sarebbero stati detratti dei punti. 

Tuttavia, secondo Hamilton, l’intelligenza artificiale ha iniziato a distruggere la torre di controllo che l’operatore utilizzava per comunicare con il drone per impedirgli di distruggere il bersaglio.

“Non si può parlare di intelligenza artificiale, apprendimento automatico e autonomia senza parlare di etica in relazione all’IA”, ha concluso il colonnello Hamilton.

Questi non sono i primi test in cui l’esercito americano ha introdotto l’intelligenza artificiale in un veicolo da combattimento. 

Infatti, recentemente hanno usato l’intelligenza artificiale per controllare il caccia F-16.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.

Lista degli articoli