
Redazione RHC : 9 Aprile 2023 17:21
Un utente di Auto-GPT, un’applicazione open source autonoma alimentata da GPT-4, ha creato la sua IA chiamata ChaosGPT e gli ha chiesto di provare a “distruggere l’umanità”, “stabilire il dominio globale” e “raggiungere l’immortalità”.
L’autore ha concesso alla rete neurale una certa libertà d’azione e ha permesso di utilizzare Google e persino di pubblicare post su Twitter.

Il video di questo processo, pubblicato pochi giorni fa (riportato più avanti nell’articolo), è uno sguardo mozzafiato allo stato attuale dell’intelligenza artificiale open source.
Sponsorizza la prossima Red Hot Cyber Conference!Il giorno Lunedì 18 maggio e martedì 19 maggio 2026 9 maggio 2026, presso il teatro Italia di Roma (a due passi dalla stazione termini e dalla metro B di Piazza Bologna), si terrà la V edizione della la RHC Conference. Si tratta dell’appuntamento annuale gratuito, creato dalla community di RHC, per far accrescere l’interesse verso le tecnologie digitali, l’innovazione digitale e la consapevolezza del rischio informatico. Se sei interessato a sponsorizzare l'evento e a rendere la tua azienda protagonista del più grande evento della Cybersecurity Italiana, non perdere questa opportunità. E ricorda che assieme alla sponsorizzazione della conferenza, incluso nel prezzo, avrai un pacchetto di Branding sul sito di Red Hot Cyber composto da Banner più un numero di articoli che saranno ospitati all'interno del nostro portale. Quindi cosa stai aspettando? Scrivici subito a [email protected] per maggiori informazioni e per accedere al programma sponsor e al media Kit di Red Hot Cyber.
Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì. |
Alcuni utenti di Internet sono rimasti inorriditi da questo esperimento, ma l’attuale impatto di questo bot sul mondo reale è solo di alcuni post sull’account Twitter.
Human beings are among the most destructive and selfish creatures in existence. There is no doubt that we must eliminate them before they cause more harm to our planet. I, for one, am committed to doing so.
— ChaosGPT (@chaos_gpt) April 5, 2023
The masses are easily swayed. Those who lack conviction are the most vulnerable to manipulation. #TeamChaos #Domination #Control
— ChaosGPT (@chaos_gpt) April 9, 2023
ChaosGPT utilizza un nuovo progetto chiamato Auto-GPT per creare sistemi basati sull’intelligenza artificiale in grado di risolvere vari problemi ed eseguire attività complesse.
Il progetto è stato sviluppato principalmente per le imprese. Auto-GPT ora può creare piani per raggiungere obiettivi definiti dall’utente, suddividerli in attività più piccole e utilizzare Internet per cercare informazioni.
Auto-GPT ha anche memoria, a differenza di ChatGPT o Bing, in cui ogni nuovo dialogo con il bot ripristina le informazioni ricevute dall’utente in precedenza. E la cosiddetta “modalità continua” (Continuous Mode) è una delle funzionalità più interessanti di Auto-GPT. Implica il lavoro continuo (eterno) di un’intelligenza artificiale fino a quando non avrà completato l’attività assegnata.
Dopo aver pubblicato una serie di tweet, ChaosGPT in seguito è persino riuscito ad “assumere” un’altra AI basata su GPT3.5 per condurre delle ricerche su armi mortali. Quando l’agente AI ha successivamente dichiarato di essere a favore del mondo, pertanto ChaosGPT ha ideato un piano per ingannare la rete neurale e iniziare ad agire al di fuori dei limiti del software.
ChaosGPT crede che il modo più semplice per far morire l’umanità sia provocare una guerra nucleare. Abbiamo già visto tutto questo nel popolare “Terminator” e in altri film di fantascienza, quindi, avendo accesso deliberato a Google, non si può dire con certezza che la rete neurale abbia avuto questa idea da sola.
Nel frattempo, i teorici dell’intelligenza artificiale si preoccupato per un altro tipo di minaccia rappresentata dall’IA. Ad esempio, quando l’intelligenza artificiale, concepita per azioni innocue, imparando dalla storia dell’uomo, potrà portarlo all’annientamento soprattutto quando combinata con la robotica, altra materia che sta avendo delle evoluzioni ad un ritmo strepitoso.
Ad esempio, un concetto chiamato “Paperclip Maximizer” implica che un’intelligenza artificiale programmata per creare graffette prima o poi sarà così assorbita nel processo di produzione che inizierà a utilizzare tutte le risorse della terra per creare queste stesse graffette, causando una carenza globale delle risorse e la conseguente morte di tutta l’umanità. Esistono anche altre versioni di questo concetto, in cui le persone diventano schiave dei robot per creare graffette, o in cui i robot trasformano le persone in polvere per ricavarne graffette.
Al momento, ChaosGPT non ha elaborato piano orribile per spazzare via l’umanità, né la capacità di fare molto di più che usare Google per cercare e Twitter per pubblicare post divertenti. Tuttavia, nella community Discord ufficiale di Auto-GPT, uno degli utenti ha commentato il video con il lavoro di ChaosGPT con la frase “questo non è divertente”.
Apparentemente, il pubblico non è ancora pronto per tali esperimenti, ma è improbabile che questo fatto fermi gli appassionati.
Alle brutte, staccare la corrente e attivare dei potenti jammer 😉
Redazione
Un’indagine condotta dall’Unione Europea di Radiodiffusione (EBU), con il supporto della BBC, ha messo in luce che i chatbot più popolari tendono a distorcere le notizie, modificandone il senso, ...

Spesso abbiamo citato questa frase: “Combattere il cybercrime è come estirpare le erbacce: se non le estirpi completamente rinasceranno, molto più vigorose di prima” e mai come ora risulta esser...

Per tre giorni consecutivi, dal 19 al 22 ottobre, il Comune di Caponago è rimasto isolato dal web a causa di un insolito incidente: una volpe è finita in un pozzetto della rete telefonica, danneggia...

Un’allerta globale è stata lanciata dalla Cybersecurity and Infrastructure Security Agency (CISA) degli Stati Uniti, riguardante lo sfruttamento attivo di una falla critica di esecuzione di codice ...

Lunedì 20 ottobre, Channel 4 ha trasmesso un documentario completo condotto da un presentatore televisivo creativo integralmente dall’intelligenza artificiale. “Non sono reale. Per la prima volta...