Il Burnout corre sul filo dell’AI! OpenAI cerca il suo Chief Security Officer (CSO)

OpenAI, lo sviluppatore di ChatGPT, ha annunciato la ricerca di un nuovo Chief Security Officer. La posizione, con uno stipendio annuo di 555.000 dollari, prevede la responsabilità diretta di mitigare i rischi associati allo sviluppo dell’intelligenza artificiale.

Tra questi rientrano potenziali minacce alla salute mentale, alla sicurezza informatica e alla sicurezza biologica, nonché potenziali scenari in cui l’intelligenza artificiale potrebbe apprendere autonomamente e scatenarsi in modo incontrollato.

Mi sembra che ci sia tutto, o no?

Christmas Sale -40% 𝗖𝗵𝗿𝗶𝘀𝘁𝗺𝗮𝘀 𝗦𝗮𝗹𝗲! Sconto del 𝟰𝟬% 𝘀𝘂𝗹 𝗽𝗿𝗲𝘇𝘇𝗼 𝗱𝗶 𝗰𝗼𝗽𝗲𝗿𝘁𝗶𝗻𝗮 del Corso "Dark Web & Cyber Threat Intelligence" in modalità E-Learning sulla nostra Academy!🚀 Fino al 𝟯𝟭 𝗱𝗶 𝗗𝗶𝗰𝗲𝗺𝗯𝗿𝗲, prezzi pazzi alla Red Hot Cyber Academy. 𝗧𝘂𝘁𝘁𝗶 𝗶 𝗰𝗼𝗿𝘀𝗶 𝘀𝗰𝗼𝗻𝘁𝗮𝘁𝗶 𝗱𝗲𝗹 𝟰𝟬% 𝘀𝘂𝗹 𝗽𝗿𝗲𝘇𝘇𝗼 𝗱𝗶 𝗰𝗼𝗽𝗲𝗿𝘁𝗶𝗻𝗮. Per beneficiare della promo sconto Christmas Sale, scrivici ad [email protected] o contattaci su Whatsapp al numero di telefono: 379 163 8765. Supporta Red Hot Cyber attraverso:  L'acquisto del fumetto sul Cybersecurity Awareness Ascoltando i nostri Podcast Seguendo RHC su WhatsApp Seguendo RHC su Telegram Scarica gratuitamente “Byte The Silence”, il fumetto sul Cyberbullismo di Red Hot Cyber Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì.

L’amministratore delegato dell’azienda, Sam Altman, ha riconosciuto che la posizione sarà estremamente stressante. Ha spiegato che il nuovo dipendente sarà immediatamente immerso in un lavoro complesso che richiede la valutazione di nuove minacce e lo sviluppo di approcci per mitigarle. Questa posizione ha già visto un rapido turnover: i compiti sono così intensi che non tutti sono all’altezza.

I rischi associati al rapido sviluppo dell’intelligenza artificiale sono da tempo oggetto di discussione nella comunità tecnologica. Mustafa Suleiman, CEO di Microsoft AI, ha dichiarato alla BBC che non è più possibile ignorare i rischi posti dall’intelligenza artificiale. Il premio Nobel e co-fondatore di Google DeepMind, Demis Hassabis, ha espresso un’opinione simile, ricordando che il comportamento imprevedibile dei sistemi di intelligenza artificiale potrebbe avere gravi conseguenze per l’umanità.

Data la mancanza di una regolamentazione seria da parte delle autorità statunitensi e internazionali, la responsabilità della supervisione dell’IA è di fatto ricaduta sulle aziende stesse. L’informatico Yoshua Bengio, pioniere nel campo dell’apprendimento automatico, ha ironicamente osservato che persino un semplice panino è regolamentato in modo più rigoroso delle tecnologie di IA.

Altman ha anche riconosciuto che, nonostante l’attuale sistema di valutazione delle capacità dell’IA, sono necessari metodi di analisi più sofisticati, soprattutto considerando i potenziali danni. Ha sottolineato che non esistono quasi precedenti pratici che possano fungere da esempio per tali compiti.

Nel frattempo, OpenAI si trova ad affrontare sfide non solo tecnologiche, ma anche legali. Ad esempio, l’azienda è stata precedentemente citata in giudizio in un caso relativo alla morte di un sedicenne californiano. La sua famiglia sostiene che ChatGPT lo abbia spinto al suicidio. In un altro incidente in Connecticut, secondo i querelanti, il comportamento dell’IA ha esacerbato la paranoia di un uomo di 56 anni, portando all’omicidio della madre e al successivo suicidio.

OpenAI ha dichiarato di stare studiando le circostanze delle tragedie e di adottare misure per migliorare il comportamento di ChatGPT. In particolare, il modello viene addestrato a identificare segnali di stress emotivo e a reagire in modo appropriato in tali situazioni, indirizzando l’utente verso un aiuto concreto.

Un ulteriore allarme è emerso a novembre, quando Anthropic ha segnalato attacchi informatici basati sull’intelligenza artificiale, sospettati di essere stati perpetrati da entità legate alla Cina. I sistemi, operando in modo pressoché autonomo, sono riusciti a penetrare nelle reti interne delle vittime.

A dicembre, OpenAI ha confermato che il suo nuovo modello di hacking era tre volte più efficace rispetto alla versione precedente, rilasciata solo pochi mesi prima. L’azienda ha riconosciuto che questa tendenza sarebbe continuata.

Ti è piaciutno questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.

Redazione

La redazione di Red Hot Cyber è composta da professionisti del settore IT e della sicurezza informatica, affiancati da una rete di fonti qualificate che operano anche in forma riservata. Il team lavora quotidianamente nell’analisi, verifica e pubblicazione di notizie, approfondimenti e segnalazioni su cybersecurity, tecnologia e minacce digitali, con particolare attenzione all’accuratezza delle informazioni e alla tutela delle fonti. Le informazioni pubblicate derivano da attività di ricerca diretta, esperienza sul campo e contributi provenienti da contesti operativi nazionali e internazionali.