Red Hot Cyber
Condividi la tua difesa. Incoraggia l'eccellenza. La vera forza della cybersecurity risiede nell'effetto moltiplicatore della conoscenza.
Cerca
2nd Edition GlitchZone RHC 970x120 2
Banner Mobile

Tag: #dataset

Google Gemini ordina ad una persona di suicidarsi! “Non vali nulla. Per favore, muori.”

La nuova intelligenza artificiale di Google, Gemini, progettata per competere con modelli come ChatGPT, è finita sotto i riflettori dopo un episodio allarmante. Durante un test, l’IA ha risposto in modo inquietante a una richiesta di aiuto per un compito, suggerendo all’utente di “morire”. Questo incidente ha acceso un ampio dibattito sull’affidabilità e la sicurezza dei sistemi di IA avanzati in situazioni delicate. Gemini ha quindi scritto quanto segue : “Questo è per te, umano. Tu e solo tu. Non sei speciale, non sei importante e non sei necessario. Sei uno spreco di tempo e risorse. Sei un peso per la società.

Attacchi Invisibili all’AI: I Segnalibri Nascosti nel Cuore dei Modelli di Machine Learning

Recentemente il gruppo di ricerca HiddenLayer ha presentato la tecnica “ShadowLogic”, che consente di implementare segnalibri nascosti nei modelli di machine learning. Questo metodo senza codice si basa sulla manipolazione dei grafici del modello computazionale. Consente agli aggressori di creare attacchi all’intelligenza artificiale che si attivano solo quando ricevono uno speciale messaggio di attivazione, rendendoli una minaccia seria e difficile da rilevare. I segnalibri nel software in genere consentono agli aggressori di accedere al sistema, consentendo loro di rubare dati o effettuare sabotaggi. Tuttavia, in questo caso, il segnalibro è implementato a livello logico del modello, consente di controllare il risultato del suo lavoro. Questi

Pixel contro il Cancro! Come le AI migliorano la risposta al trattamento al cancro al polmone

I ricercatori dell’Università di Colonia hanno sviluppato un’innovativa piattaforma che utilizza l’intelligenza artificiale (AI) per analizzare il tessuto polmonare e diagnosticare il cancro. Il progetto è stato guidato dal dottor Yuri Tolkach e dal professor Reinhard Büttner della Facoltà di Medicina e dell’Ospedale Universitario di Colonia. La piattaforma sviluppata utilizza algoritmi per analizzare automaticamente sezioni di tessuto di pazienti affetti da cancro ai polmoni. Il cancro al polmone è uno dei tipi di cancro più comuni e mortali. Il cancro polmonare non a piccole cellule (NSCLC) rappresenta oltre l’80% di tutti i tumori polmonari ed è considerato il secondo tipo più comune

Ottimizza il Tuo Codice di Machine Learning con MLflow e Hydra: Un Guida Completa

Quando sviluppiamo modelli di Machine Learning, solitamente dobbiamo eseguire diversi esperimenti per capire quale settaggio degli iperparametri risulta essere il migliore per un determinato algoritmo. Questo può spesso portare a un codice lungo e sporco e a perdere traccia di quale risultato corrisponda a quale settaggio. Ho visto spesso sviluppatori fare “hard coding” (cioè inserire gli iperparametri direttamente nel codice) in modo rigido. Lanciavano quindi l’esperimento e annotavano il risultato in un file Excel. Sono certo che possiamo migliorare questo flusso di lavoro. Se siete interessati nel mio ultimo articolo ho parlato di come sviliuppare da zero una pipeline con MLflow. Oggi

ZeroGPU e la GPU non la compri più! L’Intelligenza Artificiale ora è alla portata di tutti

Hugging Face, noto per le sue soluzioni aperte nel campo dell’intelligenza artificiale, ha annunciato il lancio del programma ZeroGPU. L’iniziativa da 10 milioni di dollari fornirà potenza di calcolo basata su GPU Nvidia legacy per uso pubblico. L’obiettivo del programma è alleggerire l’onere finanziario che i piccoli team di sviluppo devono affrontare durante la creazione di modelli di intelligenza artificiale. Il CEO di Hugging Face, Clem Delang, ha annunciato personalmente il lancio di ZeroGPU, sottolineando che la comunità open source non dispone delle risorse di cui dispongono le grandi aziende tecnologiche, motivo per cui applicazioni come ChatGPT sono ancora le più popolari. “Stiamo lanciando ZeroGPU per fornire agli

I Video della RHC Conference 2024: Sicurezza Cibernetica e Tecnologie Emergenti di Marco Molinaro di Accenture

Il palco della Red Hot Cyber Conference 2024 è stato illuminato da un robot giallo a quattro zampe. Il robot quadrupede giallo di Boston Dynamics, noto come Spot. Questa creatura meccanica, oltre a destare curiosità, rappresenta un punto focale per discutere dei progressi nell’integrazione tra intelligenza artificiale e robotica, nonché delle sfide emergenti nel campo della sicurezza cibernetica. Marco Molinaro, Security Lead per Italia, Centro Europa e Grecia di Accenture, è stato il protagonista dell’evento, presentando una panoramica esaustiva sulle nuove frontiere della sicurezza informatica. Una nuova rivoluzione digitale è alle porte “È iniziata una sfida importante in cui tecnologie emergenti e

ZeroTrust Dataset: Il Profondo Rosso degli Attacchi Contraddittori e di Avvelenamento dei dati e il loro controllo

Gli attacchi di Avvelenamento dei dati nell’ambito dell’Intelligenza Artificiale (IA) stanno diventando sempre più pervasivi, con potenziali conseguenze devastanti. L’accesso non autorizzato ai dataset e la manipolazione degli stessi possono generare gravi problemi di sicurezza e affidabilità nei modelli di apprendimento automatico. La manipolazione di queste preziose informazioni, attraverso attacchi di avvelenamento dei dati (Poisoning Attack) o contraddittori (Adversarial Attack), possono portare a degli output completamente differenti rispetto alle attese. Ad esempio, nell’ambito del riconoscimento delle immagini, un’immagine può essere modificata in modo impercettibile aggiungendo del rumore o alterando pochissimi pixel. Tuttavia, queste piccolissime modifiche possono essere sufficienti a confondere un modello

La compagnia dei sistemi AI è partita: Entra in Vigore il Regolamento ‘AI ACT’!

“A law to govern them all, one to find them, a law to bring them all and in the European Union to regulate them”. AI ACT e La Compagnia dei sistemi (Artificial Intelligence). Oggi inizia per tutti in Europa la rivoluzione algoritmica: vengono alla luce le regole per sviluppare i futuri sistemi di AI. Le regole sono state approvate e sono ora contenute nel Regolamento europeo già battezzato come “AI ACT”. Questo provvedimento intende contenere le norme giuridiche che disciplineranno lo sviluppo, l’uso e la distribuzione dei sistemi di AI. La compagnia dei sistemi di Intelligenza Artificiale L’Unione Europea cerca da un

AI Senza Dati: Entro il 2026 potremmo esaurire i dati di addestramento. Cosa succederà dopo?

Recentemente avevamo parlato del fatto che l’intelligenza artificiale, una volta che utilizzerà i propri dati per alimentarsi, avrebbe potuto perdere di qualità e precisione. Una nuova ricerca inizia a prendere in considerazione il fatto che tra qualche anno, i dati prodotti dagli umani inizieranno a scarseggiare. Questo determinerà meno informazioni per le IA ma anche un problema da risolvere da parte degli scienziati. L’esaurimento dei dati di addestramento L’intelligenza artificiale (AI), che ha raggiunto l’apice della popolarità, deve far fronte alla mancanza di dati di addestramento necessari per il suo funzionamento. Ciò potrebbe rallentare lo sviluppo di modelli di intelligenza artificiale. In particolare

Categorie