In sintesiIl Segretario generale delle Nazioni Unite Antonio Guterres, durante il primo dialogo globale sulla governance dell'IA a Ginevra, ha chiesto un divieto internazionale per le armi autonome letali, definendole "robot assassini" e moralmente ripugnanti. In precedenza l'appello è stato sostenuto da Papa Leone XIV e dalla società Anthropic, che ha fatto causa al Pentagono per evitare l'uso dei propri modelli in armi autonome o sorveglianza domestica.
La macchina non dovrebbe decidere chi vive e chi muore in guerra. Il Segretario generale delle Nazioni Unite Antonio Guterres all’apertura del primo dialogo globale sulla governance dell’IA a Ginevra ha tracciano una linea chiara per l’utilizzo dell’intelligenza artificiale nei conflitti armati.
Guterres ha affermato che i sistemi in grado di selezionare autonomamente obiettivi e uccidere persone senza la decisione umana sono “moralmente ripugnanti” e dovrebbero essere vietati a livello internazionale. Il Segretario generale delle Nazioni Unite ha proposto di chiamare direttamente tali sviluppi: “robot assassini”. Secondo Guterres, alcune decisioni, in particolare quella di togliere la vita ad un’altra persona, non dovrebbe essere deciso dall’intelligenza artificiale.
L’appello è arrivato nel momento della rapida adozione dell’intelligenza artificiale negli eserciti di diversi paesi. Le strutture militari utilizzano algoritmi non solo sul campo di battaglia, ma anche nei centri di comando, dove la velocità di elaborazione dei dati può influenzare le decisioni dei comandanti. I sostenitori dell’intelligenza artificiale militare riportano che gli esseri umani manterranno il controllo finale e che gli algoritmi non faranno altro che aumentare la precisione e la velocità.
Gli oppositori delle armi autonome considerano questo approccio troppo rischioso. Un errore algoritmico, una valutazione errata della situazione o il trasferimento graduale del controllo a una macchina possono portare a conseguenze che non possono essere rapidamente fermate. La disputa sui limiti dell’intelligenza artificiale nella difesa è già andata oltre la diplomazia: Anthropic ha fatto causa al Pentagono dopo aver cercato di ottenere garanzie che i modelli dell’azienda non verranno utilizzati per armi autonome o sorveglianza domestica. Il Dipartimento della Difesa degli Stati Uniti insiste sull’accesso all’intelligenza artificiale per qualsiasi uso legittimo.
Anche Papa Leone XIV si unì alla critica alle armi autonome. Secondo il pontefice, le armi IA possono rendere la guerra più facile da iniziare e più difficile da controllare. Guterres, parlando a Ginevra, ha anche avvertito che l’intelligenza artificiale si sta sviluppando a una “velocità incontrollabile” e che le società vengono effettivamente sperimentate senza un piano o un consenso.
Più di 4.000 rappresentanti di governi, università, aziende tecnologiche e altre organizzazioni partecipano alla discussione. La questione principale dell’incontro sembra estremamente pratica: il diritto internazionale sarà in grado di limitare l’intelligenza artificiale militare prima che i sistemi autonomi diventino una parte comune dei conflitti moderni.
Carolina Vivianti è consulente/Advisor autonomo in sicurezza informatica con esperienza nel settore tech e security. Ha lavorato come Security Advisor per Ford EU/Ford Motor Company e Vodafone e ha studi presso la Sapienza Università di Roma.
Aree di competenza: Cybersecurity, IT Risk Management, Security Advisory, Threat Analysis, Data Protection, Cloud Security, Compliance & Governance