AI e l'apprendimento del contraddittorio.


L'apprendimento automatico #contraddittorio, è una tecnica impiegata nel campo dell'apprendimento #automatico (machine learning) che tenta di ingannare (o verificare) il comportamento degli algoritmi di #IA attraverso #input dannosi.


Le tecniche di apprendimento automatico sono state originariamente progettate per ambienti "benigni" in cui si presume che i dati di #addestramento e #test siano generati nella stessa distribuzione statistica.


Pur tuttavia, quando tali #modelli sono implementati nel mondo reale, la presenza di #avversari #intelligenti e adattivi (come ad esempio gli #hacker) possono violare le ipotesi

#statistiche, a seconda dell'avversario stesso.


Questa tecnica mostra come un avversario malintenzionato, può manipolare in maniera illecita i dati di #input in modo da sfruttare le #vulnerabilità di apprendimento specifiche degli algoritmi e compromettere la sicurezza del sistema e i risultati attesi (etichette o label).


#redhotcyber #cybersecurity #ai #MachineLearning

3 visualizzazioni

Iscriviti al canale Youtube

unnamed.png

Red Hot Cyber: conosci il rischio per starne lontano

Per richieste di supporto scrivi a: redhotcyber@hotmail.com

  • YouTube Icona sociale
  • Facebook Icona sociale
  • Twitter Icon sociale
  • LinkedIn Icona sociale
  • Instagram Icona sociale
  • Tumblr Icona sociale
This site was designed with the
.com
website builder. Create your website today.
Start Now