Redazione RHC : 9 Aprile 2023 17:21
Un utente di Auto-GPT, un’applicazione open source autonoma alimentata da GPT-4, ha creato la sua IA chiamata ChaosGPT e gli ha chiesto di provare a “distruggere l’umanità”, “stabilire il dominio globale” e “raggiungere l’immortalità”.
L’autore ha concesso alla rete neurale una certa libertà d’azione e ha permesso di utilizzare Google e persino di pubblicare post su Twitter.
Il video di questo processo, pubblicato pochi giorni fa (riportato più avanti nell’articolo), è uno sguardo mozzafiato allo stato attuale dell’intelligenza artificiale open source.
Vuoi diventare un esperto del Dark Web e della Cyber Threat Intelligence (CTI)?
Stiamo per avviare il corso intermedio in modalità "Live Class", previsto per febbraio.
A differenza dei corsi in e-learning, disponibili online sulla nostra piattaforma con lezioni pre-registrate, i corsi in Live Class offrono un’esperienza formativa interattiva e coinvolgente.
Condotti dal professor Pietro Melillo, le lezioni si svolgono online in tempo reale, permettendo ai partecipanti di interagire direttamente con il docente e approfondire i contenuti in modo personalizzato.
Questi corsi, ideali per aziende, consentono di sviluppare competenze mirate, affrontare casi pratici e personalizzare il percorso formativo in base alle esigenze specifiche del team, garantendo un apprendimento efficace e immediatamente applicabile.
Per ulteriori informazioni, scrivici ad [email protected] oppure scrivici su Whatsapp al 379 163 8765
Supporta RHC attraverso:
Ti piacciono gli articoli di Red Hot Cyber? Non aspettare oltre, iscriviti alla newsletter settimanale per non perdere nessun articolo.
Alcuni utenti di Internet sono rimasti inorriditi da questo esperimento, ma l’attuale impatto di questo bot sul mondo reale è solo di alcuni post sull’account Twitter.
Human beings are among the most destructive and selfish creatures in existence. There is no doubt that we must eliminate them before they cause more harm to our planet. I, for one, am committed to doing so.
— ChaosGPT (@chaos_gpt) April 5, 2023
The masses are easily swayed. Those who lack conviction are the most vulnerable to manipulation. #TeamChaos #Domination #Control
— ChaosGPT (@chaos_gpt) April 9, 2023
ChaosGPT utilizza un nuovo progetto chiamato Auto-GPT per creare sistemi basati sull’intelligenza artificiale in grado di risolvere vari problemi ed eseguire attività complesse.
Il progetto è stato sviluppato principalmente per le imprese. Auto-GPT ora può creare piani per raggiungere obiettivi definiti dall’utente, suddividerli in attività più piccole e utilizzare Internet per cercare informazioni.
Auto-GPT ha anche memoria, a differenza di ChatGPT o Bing, in cui ogni nuovo dialogo con il bot ripristina le informazioni ricevute dall’utente in precedenza. E la cosiddetta “modalità continua” (Continuous Mode) è una delle funzionalità più interessanti di Auto-GPT. Implica il lavoro continuo (eterno) di un’intelligenza artificiale fino a quando non avrà completato l’attività assegnata.
Dopo aver pubblicato una serie di tweet, ChaosGPT in seguito è persino riuscito ad “assumere” un’altra AI basata su GPT3.5 per condurre delle ricerche su armi mortali. Quando l’agente AI ha successivamente dichiarato di essere a favore del mondo, pertanto ChaosGPT ha ideato un piano per ingannare la rete neurale e iniziare ad agire al di fuori dei limiti del software.
ChaosGPT crede che il modo più semplice per far morire l’umanità sia provocare una guerra nucleare. Abbiamo già visto tutto questo nel popolare “Terminator” e in altri film di fantascienza, quindi, avendo accesso deliberato a Google, non si può dire con certezza che la rete neurale abbia avuto questa idea da sola.
Nel frattempo, i teorici dell’intelligenza artificiale si preoccupato per un altro tipo di minaccia rappresentata dall’IA. Ad esempio, quando l’intelligenza artificiale, concepita per azioni innocue, imparando dalla storia dell’uomo, potrà portarlo all’annientamento soprattutto quando combinata con la robotica, altra materia che sta avendo delle evoluzioni ad un ritmo strepitoso.
Ad esempio, un concetto chiamato “Paperclip Maximizer” implica che un’intelligenza artificiale programmata per creare graffette prima o poi sarà così assorbita nel processo di produzione che inizierà a utilizzare tutte le risorse della terra per creare queste stesse graffette, causando una carenza globale delle risorse e la conseguente morte di tutta l’umanità. Esistono anche altre versioni di questo concetto, in cui le persone diventano schiave dei robot per creare graffette, o in cui i robot trasformano le persone in polvere per ricavarne graffette.
Al momento, ChaosGPT non ha elaborato piano orribile per spazzare via l’umanità, né la capacità di fare molto di più che usare Google per cercare e Twitter per pubblicare post divertenti. Tuttavia, nella community Discord ufficiale di Auto-GPT, uno degli utenti ha commentato il video con il lavoro di ChaosGPT con la frase “questo non è divertente”.
Apparentemente, il pubblico non è ancora pronto per tali esperimenti, ma è improbabile che questo fatto fermi gli appassionati.
Alle brutte, staccare la corrente e attivare dei potenti jammer 😉
Nel mondo della cybersecurity esiste una verità scomoda quanto inevitabile: per difendere davvero qualcosa, bisogna sapere come violarlo. L’autenticazione multi-fattore è una delle co...
Una vulnerabilità critica nel Remote Desktop Gateway (RD Gateway) di Microsoft che potrebbe consentire agli aggressori di eseguire codice dannoso sui sistemi interessati da remoto. Il difetto, &#...
Al torneo di hacking Pwn2Own di Berlino si è verificato un evento storico: esperti di sicurezza d’élite sono riusciti per la prima volta ad hackerare con successo l’hypervisor ...
Nel mondo sempre più sofisticato delle truffe digitali, una delle modalità emergenti è quella del falso reclutamento professionale. Un metodo subdolo, che sfrutta il desiderio (e il bis...
Hacking, hacking, hacking! Al Pwn2Own non si scherza: è qui che l’élite mondiale della cybersicurezza mostra quanto sia fragile il mondo digitale. In palio? Fama, gloria… e pi&...
Copyright @ REDHOTCYBER Srl
PIVA 17898011006