AI e l’apprendimento del contraddittorio.

L’apprendimento automatico #contraddittorio, è una tecnica impiegata nel campo dell’apprendimento #automatico (machine learning) che tenta di ingannare (o verificare) il comportamento degli algoritmi di #IA attraverso #input dannosi.

Le tecniche di apprendimento automatico sono state originariamente progettate per ambienti “benigni” in cui si presume che i dati di #addestramento e #test siano generati nella stessa distribuzione statistica.

Pur tuttavia, quando tali #modelli sono implementati nel mondo reale, la presenza di #avversari #intelligenti e adattivi (come ad esempio gli #hacker) possono violare le ipotesi

#statistiche, a seconda dell’avversario stesso.

Questa tecnica mostra come un avversario malintenzionato, può manipolare in maniera illecita i dati di #input in modo da sfruttare le #vulnerabilità di apprendimento specifiche degli algoritmi e compromettere la sicurezza del sistema e i risultati attesi (etichette o label).

#redhotcyber #cybersecurity #ai #MachineLearning

Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.

Redazione

La Redazione di Red Hot Cyber fornisce aggiornamenti quotidiani su bug, data breach e minacce globali. Ogni contenuto è validato dalla nostra community di esperti come Pietro Melillo, Massimiliano Brolli, Sandro Sana, Olivia Terragni e Stefano Gazzella. Grazie alla sinergia con i nostri Partner leader nel settore (tra cui Accenture, CrowdStrike, Trend Micro e Fortinet), trasformiamo la complessità tecnica in consapevolezza collettiva, garantendo un'informazione accurata basata sull'analisi di fonti primarie e su una rigorosa peer-review tecnica.