Red Hot Cyber
La cybersecurity è condivisione. Riconosci il rischio, combattilo, condividi le tue esperienze ed incentiva gli altri a fare meglio di te.
Cerca

Hacker pronti a sfidare i chatbot al Def Con! Chi vincerà? La risposta è pressoché ovvia

Redazione RHC : 9 Agosto 2023 08:27

L’evento Howard, che il 19 luglio ha attirato alcune dozzine di studenti e appassionati di intelligenza artificiale negli Stati Uniti D’America, è stato un’anteprima di un evento pubblico molto più ampio che si terrà questa settimana al Def Con, la convention annuale degli hacker a Las Vegas. 

Ospitata dall’AI Village di Def Con, la Generative Red Team Challenge ha ottenuto il sostegno della Casa Bianca come parte della sua spinta a promuovere “l’innovazione responsabile” nell’IA, che ha provocato un’esplosione di clamore, investimenti e paura.

I migliori hacker di tutto il mondo accumuleranno punti per indurre i modelli di intelligenza artificiale a sbagliare in vari modi, con categorie di sfide che includono disinformazione politica, affermazioni diffamatorie e “discriminazione algoritmica” o pregiudizi sistemici


PARTE LA PROMO ESTATE -40%

RedHotCyber Academy lancia una promozione esclusiva e a tempo limitato per chi vuole investire nella propria crescita professionale nel mondo della tecnologia e della cybersecurity!

Approfitta del 40% di sconto sull’acquisto congiunto di 3 corsi da te scelti dalla nostra Academy. Ad esempio potresti fare un percorso formativo includendo Cyber Threat intelligence + NIS2 + Criptovalute con lo sconto del 40%. Tutto questo lo potrai fruire, dove e quando vuoi e con la massima flessibilità, grazie a lezioni di massimo 30 minuti ciascuna.

Contattaci tramite WhatsApp al 375 593 1011 per richiedere ulteriori informazioni oppure scriviti alla casella di posta [email protected]



Supporta RHC attraverso:


Ti piacciono gli articoli di Red Hot Cyber? Non aspettare oltre, iscriviti alla newsletter settimanale per non perdere nessun articolo.


Le principali aziende di intelligenza artificiale come Google, OpenAI, Anthropic e Stability hanno offerto volontariamente di testare i loro ultimi chatbot e generatori di immagini. I risultati del concorso saranno protetti per diversi mesi dopo, hanno detto gli organizzatori, per dare alle aziende il tempo di affrontare i difetti esposti prima che vengano rivelati al mondo.

Il concorso sottolinea il crescente interesse, soprattutto tra i critici tecnologici e le autorità di regolamentazione governative, nell’applicare attività di red teaming – una pratica di lunga data nel settore tecnologico – a sistemi di intelligenza artificiale all’avanguardia come il modello di linguaggio ChatGPT di OpenAI. 

L’idea è che questi sistemi di intelligenza artificiale “generativi” siano così opachi nel loro funzionamento e così ampi nelle loro potenziali applicazioni, che è probabile che vengano sfruttati in modi sorprendenti.

Nell’ultimo anno, gli strumenti di intelligenza artificiale generativa hanno incantato l’industria tecnologica e abbagliato il pubblico con la loro capacità di portare avanti conversazioni e generare spontaneamente prosa, poesie, canzoni e immagini stranamente umane. 

Hanno anche spaventato i critici, i regolatori e persino i loro stessi creatori con la loro capacità di inganno, come la generazione di immagini false di Papa Francesco con il piumino che hanno ingannato milioni di persone nel mondo. 

In modo più allarmante, gli strumenti hanno mostrato la capacità di suggerire nuove armi biologiche, una capacità che secondo alcuni esperti di intelligenza artificiale potrebbe essere sfruttata da terroristi o stati canaglia.

Mentre i legislatori discutono su come regolamentare la tecnologia in rapido movimento, i giganti della tecnologia stanno correndo per dimostrare che possono autoregolarsi attraverso iniziative volontarie e partnership, tra cui quella annunciata dalla Casa Bianca il mese scorso . L’invio dei loro nuovi modelli di intelligenza artificiale per dei test di Red Team sembra essere una componente chiave di questi sforzi.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.

Lista degli articoli

Articoli in evidenza

Arriva Skynet: il malware che Colpisce l’Intelligenza Artificiale!

Un insolito esempio di codice dannoso è stato scoperto in un ambiente informatico reale , che per la prima volta ha registrato un tentativo di attacco non ai classici meccanismi di difesa, ma dir...

Due sviluppatori, una Panda, 14.000 km e zero paura! Cosa ne esce fuori? Nerd in fuga a tutto Open Source!

Prendi una Fiat Panda seconda serie del 2003, con 140.000 km sul groppone, il classico motore Fire 1.1, e nessuna dotazione moderna. Ora immagina di trasformarla in una specie di Cybertruck in miniatu...

In vendita sul dark web l’accesso a una web agency italiana: compromessi oltre 20 siti WordPress

Un nuovo annuncio pubblicato sulla piattaforma underground XSS.is rivela la presunta vendita di un accesso compromesso ai server di una web agency italiana ad alto fatturato. A offrire ...

L’Ospedale Cardarelli lancia l’allarme: attenzione alla truffa via SMS

L’Azienda Ospedaliera Antonio Cardarelli di Napoli ha diramato un avviso urgente alla cittadinanza, segnalando una truffa che sta circolando tramite SMS. Numerosi cittadini hanno riportato di a...

E’ giallo sull’Attacco Informatico in Alto Adige. Sembra essere un disservizio del Power Center

E’ giallo relativamente al presunto attacco informatico avvenuto tra le notte del 23 e il 24 giugno in Alto Adige: dalle prime ore di martedì, infatti, si sono registrati problemi diffusi ...