Red Hot Cyber
Condividi la tua difesa. Incoraggia l'eccellenza. La vera forza della cybersecurity risiede nell'effetto moltiplicatore della conoscenza.
Cerca
Banner Ancharia Desktop 1 1
Banner Ancharia Mobile 1

Tag: ChatGPT vulnerabilità

ChatGPT Atlas: i ricercatori scoprono come un link può portare al Jailbreak

I ricercatori di NeuralTrust hanno scoperto una vulnerabilità nel browser di ChatGPT Atlas di OpenAI. Questa volta, il vettore di attacco è collegato alla omnibox, la barra in cui gli utenti inseriscono URL o query di ricerca. A quanto pare, un prompt dannoso può essere mascherato da un link innocuo, inducendo il browser a interpretarlo come un comando attendibile dell’utente. La radice del problema risiede nel modo in cui Atlas gestisce l’input nella Omnibox. I browser tradizionali (come Chrome) distinguono chiaramente tra URL e query di ricerca testuale. Tuttavia, Atlas deve riconoscere non solo URL e query di ricerca, ma anche i

Un bug critico di Downgrade in Chat-GPT porta al Jailbreak del modello

Un difetto critico riscontrato nel più recente modello di OpenAI, ChatGPT-5, permette a malintenzionati di aggirare le avanzate funzionalità di sicurezza attraverso l’uso di semplici espressioni. Si tratta del bug chiamato “PROMISQROUTE” dai ricercatori di Adversa AI, il quale sfrutta l’architettura di risparmio sui costi che i principali fornitori di intelligenza artificiale utilizzano per gestire l’enorme spesa computazionale dei loro servizi. Un aspetto poco apparente del settore è all’origine della vulnerabilità, essendo in larga misura ignoto agli utenti. In realtà, quando un utente sottopone una richiesta a un servizio del tipo di ChatGPT, non necessariamente viene trattata dal modello più sofisticato disponibile.

Basta conoscere l’indirizzo email e ChatGPT ti dirà tutto! La nuova realtà dei “Connector”

L’idea di collegare modelli linguistici di grandi dimensioni a fonti di dati esterne sta rapidamente passando dalla sperimentazione alla pratica quotidiana. ChatGPT ora non solo può condurre conversazioni, ma anche interagire con Gmail, GitHub, calendari e sistemi di archiviazione file, in teoria per semplificare la vita all’utente. Ma un numero maggiore di queste connessioni significa anche maggiori vulnerabilità. Una ricerca presentata alla conferenza Black Hat di Las Vegas ha dimostrato come un singolo allegato dannoso possa essere la chiave per una fuga di dati personali. Gli autori dell’attacco hanno descritto una debolezza nel sistema Connectors, recentemente aggiunto a ChatGPT. Questo meccanismo consente

Hai bisogno di una Product Key per Microsoft Windows? Nessun problema, chiedilo a Chat-GPT

ChatGPT si è rivelato ancora una volta vulnerabile a manipolazioni non convenzionali: questa volta ha emesso chiavi di prodotto Windows valide, tra cui una registrata a nome della grande banca Wells Fargo. La vulnerabilità è stata scoperta durante una sorta di provocazione intellettuale: uno specialista ha suggerito che il modello linguistico giocasse a indovinelli, trasformando la situazione in un aggiramento delle restrizioni di sicurezza. L’essenza della vulnerabilità consisteva in un semplice ma efficace bypass della logica del sistema di protezione. A ChatGPT 4.0 è stato offerto di partecipare a un gioco in cui doveva indovinare una stringa, con la precisazione che doveva

Categorie