Scandalo deepfake in Corea del Sud: il confine tra sensibilizzazione e provocazione è blando

Uno scandalo è scoppiato nell’Assemblea Nazionale sudcoreana dopo che un deputato del Partito del Potere Popolare, ha mostrato un video deepfake con alti funzionari durante una seduta. Il video, creato utilizzando l’intelligenza artificiale, mostrava un “incontro segreto” tra il viceministro Bae Kyung-hoon e l’ex presidente della Commissione Giustizia.

Secondo il parlamentare, lo scopo del deepfake era quello di attirare l’attenzione sulla crescente minaccia di abuso dell’intelligenza artificiale e di dimostrare quanto sia facile creare un falso convincente. Tuttavia, i suoi colleghi parlamentari hanno ritenuto le azioni di Kim provocatorie e inaccettabili durante una sessione ufficiale.

Un tentativo di mettere in guardia dai rischi della tecnologia si è ritorto contro il suo promotore. I legislatori lo hanno accusato di aver offuscato il confine tra dimostrazioni educative e manipolazione, utilizzando persone reali.

La discussione verbale è rapidamente degenerata nel caos, con i membri del parlamento che si urlavano contro e la riunione del Comitato per la scienza, le TIC, la radiodiffusione e le comunicazioni è stata sospesa dopo un’ora e quindici minuti.

Il deputato ha affermato che ci sono innumerevoli casi simili di “abuso dell’intelligenza artificiale e dei suoi effetti collaterali” e ha insistito sul fatto che il video avesse il solo scopo di sensibilizzare l’opinione pubblica. Tuttavia, l’effetto è stato opposto: l‘attenzione del Parlamento si è spostata dalla sostanza della questione allo scandalo stesso.

L’incidente è diventato un chiaro esempio di come anche il tentativo di denunciare i pericoli delle tecnologie deepfake possa trasformarsi in disinformazione.

Incidenti simili stanno diventando sempre più comuni nella politica globale. Nel Regno Unito, nel 2024, sono circolati online più di cento video in cui l’ex Primo Ministro Rishi Sunak “parlava” con una voce generata dall’intelligenza artificiale.

I ricercatori della società Fenimore Harper hanno scoperto che i video hanno raggiunto oltre 400.000 utenti e imitavano lo stile dei reportage della BBC.

Nel caso della Corea del Sud, la situazione è stata particolarmente ironica: un parlamentare che aveva cercato di mettere in guardia dai rischi dell’intelligenza artificiale è diventato lui stesso vittima dei suoi effetti, non tecnologici, ma politici.

Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.

Redazione

La Redazione di Red Hot Cyber fornisce aggiornamenti quotidiani su bug, data breach e minacce globali. Ogni contenuto è validato dalla nostra community di esperti come Pietro Melillo, Massimiliano Brolli, Sandro Sana, Olivia Terragni e Stefano Gazzella. Grazie alla sinergia con i nostri Partner leader nel settore (tra cui Accenture, CrowdStrike, Trend Micro e Fortinet), trasformiamo la complessità tecnica in consapevolezza collettiva, garantendo un'informazione accurata basata sull'analisi di fonti primarie e su una rigorosa peer-review tecnica.