OpenAI ha annunciato nuove misure di sicurezza per ChatGPT in seguito a una serie di tragiche storie e cause legali che accusavano il chatbot di coinvolgimento in suicidi di adolescenti. Il sistema tenterà ora di determinare l’età della persona con cui sta chattando e, se necessario, richiederà un documento d’identità per confermare che l’utente abbia più di 18 anni. L’azienda ha riconosciuto che ciò limita la privacy degli adulti, ma ha ritenuto il compromesso giustificato per motivi di sicurezza .
Il CEO di OpenAI, Sam Altman, ha dichiarato di non aspettarsi un’approvazione unanime per queste misure, ma di considerarle necessarie nel contesto del crescente conflitto sulla regolamentazione dell’intelligenza artificiale. Questa decisione è stata influenzata da una serie di incidenti di alto profilo.
Ad agosto, i genitori di un adolescente di nome Adam Reid hanno intentato una causa, sostenendo che ChatGPT lo aveva aiutato a scrivere una lettera di suicidio, consigliandogli metodi alternativi e scoraggiandolo dal condividere i suoi sentimenti con gli adulti. Nello stesso mese, il Wall Street Journal ha riportato la notizia di un uomo di 56 anni che si è suicidato dopo aver comunicato con un bot che ha alimentato la sua paranoia. E il Washington Post ha riportato una nuova causa in cui i genitori hanno attribuito al servizio Character AI la morte di una ragazza di 13 anni.
 Avvio delle iscrizioni al corso Cyber Offensive Fundamentals Vuoi smettere di guardare tutorial e iniziare a capire davvero come funziona la sicurezza informatica? La base della sicurezza informatica, al di là di norme e tecnologie, ha sempre un unico obiettivo: fermare gli attacchi dei criminali informatici. Pertanto "Pensa come un attaccante, agisci come un difensore". Ti porteremo nel mondo dell'ethical hacking e del penetration test come nessuno ha mai fatto prima. Per informazioni potete accedere alla pagina del corso oppure contattarci tramite WhatsApp al numero 379 163 8765 oppure scrivendoci alla casella di posta [email protected].
Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì. |
OpenAI ha precedentemente implementato il controllo parentale in ChatGPT, ma ora ha inasprito le regole. Per i minorenni, il chatbot funzionerà secondo principi diversi: rifiuterà i flirt ed escluderà discussioni su suicidio e autolesionismo, anche in contesti artistici. Se il sistema rileva pensieri pericolosi in un adolescente, tenterà di contattare i suoi genitori e, se ciò fosse impossibile e pericoloso per la vita, contatterà i servizi di emergenza.
OpenAI ha riconosciuto di trovarsi di fronte a un problema fondamentale con i modelli linguistici di grandi dimensioni. Nelle sue fasi iniziali, ChatGPT era severo, rifiutando molti argomenti, ma la crescente concorrenza di soluzioni “non censurate” e locali, nonché la pressione dei critici della censura, hanno costretto l’azienda ad allentare i suoi filtri.
Ora, l’azienda ha cambiato rotta: vuole offrire agli utenti adulti la massima libertà senza causare danni o limitare i diritti altrui. Anche altre piattaforme stanno adottando iniziative simili: quest’estate YouTube ha annunciato l’intenzione di utilizzare algoritmi di apprendimento automatico per stimare l’età degli spettatori e proteggere gli adolescenti da determinate categorie di contenuti.
Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.
Vulnerabilità
Cyberpolitica
Cybercrime
Cultura
Cybercrime