Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime e Analisi Vulnerabilità
La rete neurale di Midjourney ha nuovamente fatto rumore ed è entrata in tendenza. Pubblicata su Twitter questo fine settimana, un’immagine di Papa Francesco con un piumino alla moda è diventata improvvisamente virale e si è diffusa rapidamente su Internet.
Apparentemente, molte persone credevano davvero che questa fosse un’immagine reale.
Sulla scia della popolarità di questa notizia, molti stessi utenti di Internet hanno iniziato a generare immagini del “Papa col piumino”, e quindi ora Internet pullula semplicemente di varianti di questa immagine/tendenza.
L’immagine originale che ha dato inizio a tutto è in basso a sinistra.
Poco dopo che post simili sono stati ampiamente condivisi, Twitter ha iniziato ad aggiungere un avviso contestuale che recita: “Questa è un’immagine generata dall’intelligenza artificiale di Papa Francesco. Questa non è una vera foto”.
Le politiche di Twitter affermano che gli utenti “non possono condividere in modo fraudolento media sintetici o manipolati che potrebbero causare danni”. Anche se in questo caso il confine tra danno e parodia può sembrare sfocato.
A una rapida occhiata, molte fotografie false sembrano abbastanza realistiche.
Ma con uno studio attento, la generazione può ancora essere notata. La notizia ha suscitato una risonanza particolare, tra l’altro, perché Papa Francesco è noto per i suoi abiti modesti, e quindi un piumino alla moda, probabilmente di un marchio noto era qualcosa di poco verosimile.
Il servizio di immagini che gli autori hanno utilizzato per creare immagini false di Papa Francesco, Midjourney, ha debuttato lo scorso anno. Insieme a Stable Diffusion e DALL-E, questo è uno dei tre principali modelli di sintesi di immagini attualmente esistenti, forniscono un livello accettabile di generazione.
Tutte e tre le reti neurali consentono agli utenti di creare immagini utilizzando solo descrizioni di testo, chiamate “suggerimenti”. Puoi creare cose davvero assurde che possono sembrare estremamente realistiche, motivo per cui le reti neurali sono diventate così popolari e allo stesso tempo pericolose.
Midjourney è stato recentemente aggiornato alla versione 5 e ha fatto un enorme salto nel fotorealismo, rendendo scene complesse piene di dettagli da spunti relativamente semplici. Pertanto, su Internet, puoi spesso imbatterti in generazioni di immagini di questa rete neurale (anche noi di RHC utilizziamo Midjourney), poiché sono immagini che possono essere contestualizzate agli argomenti e semplicemente realizzabili e prive di copyright.
Come abbiamo già notato, il rapido sviluppo delle reti neurali potrebbe presto dare origine a un livello incontrollato di fake news, dove sarà difficile comprenderne l’autenticità. Le grandi menti di oggi stanno già suonando l’allarme e firmando petizioni per frenare il rapido sviluppo di reti neurali basate su testo come ChatGPT.
È probabile che presto lo sviluppo di Midjourney venga bannato allo stesso modo. Tuttavia, sappiamo che il progresso non è così facile da fermare, indipendentemente da ciò che promette all’umanità.
