Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime e Analisi Vulnerabilità
L’apprendimento automatico #contraddittorio, è una tecnica impiegata nel campo dell’apprendimento #automatico (machine learning) che tenta di ingannare (o verificare) il comportamento degli algoritmi di #IA attraverso #input dannosi.
Le tecniche di apprendimento automatico sono state originariamente progettate per ambienti “benigni” in cui si presume che i dati di #addestramento e #test siano generati nella stessa distribuzione statistica.
Pur tuttavia, quando tali #modelli sono implementati nel mondo reale, la presenza di #avversari #intelligenti e adattivi (come ad esempio gli #hacker) possono violare le ipotesi
#statistiche, a seconda dell’avversario stesso.
Questa tecnica mostra come un avversario malintenzionato, può manipolare in maniera illecita i dati di #input in modo da sfruttare le #vulnerabilità di apprendimento specifiche degli algoritmi e compromettere la sicurezza del sistema e i risultati attesi (etichette o label).
#redhotcyber #cybersecurity #ai #MachineLearning
