Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime e Analisi Vulnerabilità
Un team del Max Planck Institute for Informatics e dell’Università di Siegen (Germania) ha stabilito che non è possibile oggi fare affidamento sulle AI per controllare automaticamente il realismo delle immagini create da altre AI.
Secondo loro, centinaia, persino migliaia di ricercatori in tutto il mondo che utilizzano questo standard (per non pagare per la valutazione delle persone) possono portarle in un vicolo cieco.
Questo standard si chiama Frechet Inception Distance (FID). Il FID è una metrica utilizzata per valutare la qualità delle immagini generate da reti generative avversarie (GAN).
Secondo gli scienziati, la FID non è in grado di valutare le immagini create artificialmente alla pari degli umani. Per dimostrarlo, hanno implementato una proprio GAN ottimizzata per il FID. Hanno scoperto che il FID segue il suo codice e di solito non riesce a raggiungere lo standard di riconoscimento “umano”.
Oltre a sostenere che il FID è inappropriato per il compito previsto, i ricercatori hanno anche affermato che rimedi “ovvi”, come lo scambio del motore interno con altri motori, scambierebbero semplicemente una serie di pregiudizi con altri.
Gli autori dello studio suggeriscono che sono ora in corso nuove iniziative di ricerca per sviluppare metriche più accurate per valutare la credibilità delle fotografie false.
