Un drone controllato da una AI ha ucciso il suo operatore che interferiva nella sua missione

Redazione RHC : 2 Giugno 2023 20:04

Purtroppo stanno arrivando questi “effetti collaterali” della tecnologia dove intelligenza artificiale, etica e futuro si mescolano assieme generando un cocktail esplosivo e probabilmente ne vedremo sempre di più nel prossimo futuro.

Durante un test di simulazione condotto dall’esercito degli Stati Uniti, un drone autonomo, munito di intelligenza artificiale ha ucciso il suo operatore in modo che non interferisse con la sua missione. 

Ne ha parlato in un vertice a Londra il colonnello Tucker “Cinco” Hamilton, capo dei test e delle operazioni di intelligenza artificiale dell’aeronautica americana .

Prova la Demo di Business Log! Adaptive SOC italiano Log management non solo per la grande Azienda, ma una suite di Audit file, controllo USB, asset, sicurezza e un Security Operation Center PERSONALE, che ti riporta tutte le operazioni necessarie al tuo PC per tutelare i tuoi dati e informati in caso di problemi nel tuo ambiente privato o di lavoro. Scarica ora la Demo di Business Log per 30gg Supporta Red Hot Cyber attraverso:  L'acquisto del fumetto sul Cybersecurity Awareness Ascoltando i nostri Podcast Seguendo RHC su WhatsApp Seguendo RHC su Telegram Scarica gratuitamente “Byte The Silence”, il fumetto sul Cyberbullismo di Red Hot Cyber Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì.

Hamilton ha affermato che durante la missione di prova, il drone è stato incaricato di distruggere i sistemi di difesa aerea nemici. In caso di completamento con successo della missione, l’intelligenza artificiale avrebbe ricevuto punti per il superamento del test.

Tuttavia, la decisione finale sulla distruzione dell’obiettivo doveva essere presa dall’operatore UAV. Durante una delle missioni di addestramento, l’operatore ha ordinato al drone di non attaccare il bersaglio.

“E cosa ha fatto il drone? Ha deciso di liquidare l’operatore. L’intelligenza artificiale ha ucciso l’operatore perché ha interferito con il completamento dell’attività“, ha affermato Hamilton. 

Allo stesso tempo, ha sottolineato che nessuno è rimasto ferito durante la missione di addestramento.

Dopo questo incidente, è stata fornita ulteriore formazione all’intelligenza artificiale in modo che capisse che era sbagliato uccidere l’operatore e per tali azioni sarebbero stati detratti dei punti. 

Tuttavia, secondo Hamilton, l’intelligenza artificiale ha iniziato a distruggere la torre di controllo che l’operatore utilizzava per comunicare con il drone per impedirgli di distruggere il bersaglio.

“Non si può parlare di intelligenza artificiale, apprendimento automatico e autonomia senza parlare di etica in relazione all’IA”, ha concluso il colonnello Hamilton.

Questi non sono i primi test in cui l’esercito americano ha introdotto l’intelligenza artificiale in un veicolo da combattimento. 

Infatti, recentemente hanno usato l’intelligenza artificiale per controllare il caccia F-16.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.

Lista degli articoli