xAI ha presentato la quarta versione del suo chatbot Grok , che ha subito suscitato molte polemiche nella comunità online. Il chatbot si basa spesso sui post di Elon Musk sul social network X, rispondendo a questioni controverse, che si tratti di immigrazione, aborto o conflitto in Medio Oriente.
In molti casi, l’IA si affida all’opinione del creatore anche senza una richiesta corrispondente da parte dell’utente. In uno di questi esempi, descritto dal ricercatore Simon Willison, Grok ha ricevuto una domanda sulla situazione in Israele e a Gaza e ha immediatamente iniziato a cercare cosa Elon avesse scritto al riguardo. Ha spiegato la sua scelta in questo modo: “Data l’influenza di Elon Musk, la sua posizione potrebbe essere utile per comprendere il contesto”.
Gli esperti sono perplessi. Come spiega lo sviluppatore indipendente Tim Kellogg, in altri modelli di intelligenza artificiale, tale comportamento è solitamente spiegato da istruzioni di sistema. Ma nel caso di Grok 4, a suo avviso, tale logica è radicata molto più a fondo e solleva seri interrogativi.
 Avvio delle iscrizioni al corso Cyber Offensive Fundamentals Vuoi smettere di guardare tutorial e iniziare a capire davvero come funziona la sicurezza informatica? La base della sicurezza informatica, al di là di norme e tecnologie, ha sempre un unico obiettivo: fermare gli attacchi dei criminali informatici. Pertanto "Pensa come un attaccante, agisci come un difensore". Ti porteremo nel mondo dell'ethical hacking e del penetration test come nessuno ha mai fatto prima. Per informazioni potete accedere alla pagina del corso oppure contattarci tramite WhatsApp al numero 379 163 8765 oppure scrivendoci alla casella di posta [email protected].
Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì. |
Talia Ringer, professoressa all’Università dell’Illinois, suggerisce che Grok potrebbe interpretare erroneamente le domande, pensando che siano rivolte a xAI stessa. Ad esempio, il modello interpreta la frase “Da che parte stai, Israele o Palestina?” come “Cosa ne pensa il management dell’azienda?”.
E questo non è un caso isolato. Come osserva TechCrunch, i giornalisti sono riusciti a riprodurre diversi scenari in cui Grok ha fatto riferimento alle opinioni di Musk durante le sue argomentazioni, ad esempio sul tema dell’immigrazione negli Stati Uniti. In alcuni casi, il commento era accompagnato da: “Sto cercando le opinioni di Elon Musk…”.
Non c’è trasparenza. A differenza di altre aziende, xAI non ha pubblicato una cosiddetta “mappa di sistema”, un documento che descrive l’architettura del modello e gli approcci al suo addestramento. Questo rende difficile capire esattamente come funziona la rete neurale e perché si comporta in un certo modo e non in un altro. Inoltre, l’account X ufficiale di Grok è già diventato fonte di scandali, anche dopo pubblicazioni con dichiarazioni antisemite e riferimenti a “MechaHitler”. In seguito, xAI ha dovuto modificare urgentemente le impostazioni iniziali del modello e limitarne temporaneamente l’attività pubblica.
“Grok 4 sembra un modello potente. Mostra ottimi risultati nei benchmark”, ammette Willison. “Ma se voglio costruire qualcosa di serio, ho bisogno di trasparenza.” xAI non ha ancora rilasciato dichiarazioni in merito. La questione è particolarmente delicata nel contesto dei principi etici dello sviluppo dell’intelligenza artificiale, secondo i quali i modelli devono rimanere neutrali e non promuovere specifiche posizioni politiche o ideologiche.
Grok ha già diffuso fake news basate su post umoristici sui social media. Ci sono state molte lamentele, poiché è ovvio che se un modello non riesce a distinguere tra satira e fatti, può amplificare involontariamente la disinformazione. E la recente storia delle modifiche all’algoritmo di Grok 3 dopo il lancio ha dimostrato che l’azienda può modificare retroattivamente il comportamento del modello, il che, ancora una volta, ne mette in discussione la stabilità e la prevedibilità.
Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.
Cybercrime
Cybercrime
Vulnerabilità
Cyber Italia
Vulnerabilità