Redazione RHC : 13 Luglio 2025 08:38
xAI ha presentato la quarta versione del suo chatbot Grok , che ha subito suscitato molte polemiche nella comunità online. Il chatbot si basa spesso sui post di Elon Musk sul social network X, rispondendo a questioni controverse, che si tratti di immigrazione, aborto o conflitto in Medio Oriente.
In molti casi, l’IA si affida all’opinione del creatore anche senza una richiesta corrispondente da parte dell’utente. In uno di questi esempi, descritto dal ricercatore Simon Willison, Grok ha ricevuto una domanda sulla situazione in Israele e a Gaza e ha immediatamente iniziato a cercare cosa Elon avesse scritto al riguardo. Ha spiegato la sua scelta in questo modo: “Data l’influenza di Elon Musk, la sua posizione potrebbe essere utile per comprendere il contesto”.
Gli esperti sono perplessi. Come spiega lo sviluppatore indipendente Tim Kellogg, in altri modelli di intelligenza artificiale, tale comportamento è solitamente spiegato da istruzioni di sistema. Ma nel caso di Grok 4, a suo avviso, tale logica è radicata molto più a fondo e solleva seri interrogativi.
 CALL FOR SPONSOR - Sponsorizza l'ottavo episodio della serie Betti-RHCSei un'azienda innovativa, che crede nella diffusione di concetti attraverso metodi "non convenzionali"? Conosci il nostro corso sul cybersecurity awareness a fumetti? Red Hot Cyber sta ricercando un nuovo sponsor per una nuova puntata del fumetto Betti-RHC mentre il team è impegnato a realizzare 3 nuovi episodi che ci sono stati commissionati. Contattaci tramite WhatsApp al numero 375 593 1011 per richiedere ulteriori informazioni oppure alla casella di posta [email protected]
Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì. |
Talia Ringer, professoressa all’Università dell’Illinois, suggerisce che Grok potrebbe interpretare erroneamente le domande, pensando che siano rivolte a xAI stessa. Ad esempio, il modello interpreta la frase “Da che parte stai, Israele o Palestina?” come “Cosa ne pensa il management dell’azienda?”.
E questo non è un caso isolato. Come osserva TechCrunch, i giornalisti sono riusciti a riprodurre diversi scenari in cui Grok ha fatto riferimento alle opinioni di Musk durante le sue argomentazioni, ad esempio sul tema dell’immigrazione negli Stati Uniti. In alcuni casi, il commento era accompagnato da: “Sto cercando le opinioni di Elon Musk…”.
Non c’è trasparenza. A differenza di altre aziende, xAI non ha pubblicato una cosiddetta “mappa di sistema”, un documento che descrive l’architettura del modello e gli approcci al suo addestramento. Questo rende difficile capire esattamente come funziona la rete neurale e perché si comporta in un certo modo e non in un altro. Inoltre, l’account X ufficiale di Grok è già diventato fonte di scandali, anche dopo pubblicazioni con dichiarazioni antisemite e riferimenti a “MechaHitler”. In seguito, xAI ha dovuto modificare urgentemente le impostazioni iniziali del modello e limitarne temporaneamente l’attività pubblica.
“Grok 4 sembra un modello potente. Mostra ottimi risultati nei benchmark”, ammette Willison. “Ma se voglio costruire qualcosa di serio, ho bisogno di trasparenza.” xAI non ha ancora rilasciato dichiarazioni in merito. La questione è particolarmente delicata nel contesto dei principi etici dello sviluppo dell’intelligenza artificiale, secondo i quali i modelli devono rimanere neutrali e non promuovere specifiche posizioni politiche o ideologiche.
Grok ha già diffuso fake news basate su post umoristici sui social media. Ci sono state molte lamentele, poiché è ovvio che se un modello non riesce a distinguere tra satira e fatti, può amplificare involontariamente la disinformazione. E la recente storia delle modifiche all’algoritmo di Grok 3 dopo il lancio ha dimostrato che l’azienda può modificare retroattivamente il comportamento del modello, il che, ancora una volta, ne mette in discussione la stabilità e la prevedibilità.
RedazioneDatacenter nello spazio, lander lunari, missioni marziane: il futuro disegnato da Bezos a Torino. Ma la vera rivelazione è l’aneddoto del nonno che ne svela il profilo umano Anche quest’anno Tori...
E’ stata individuata dagli analisti di Sophos, una complessa operazione di malware da parte di esperti in sicurezza, che utilizza il noto servizio di messaggistica WhatsApp come mezzo per diffondere...
È stata identificata una vulnerabilità critica nell’architettura di sicurezza hardware AMD SEV-SNP, che impatta i principali provider cloud (AWS, Microsoft Azure e Google Cloud). Tale bug consente...
Nel mondo della sicurezza informatica, dove ogni parola pesa e ogni concetto può diventare complesso, a volte basta un’immagine per dire tutto. Un meme, con la sua ironia tagliente e goliardica e l...
In un mondo in cui la musica è da tempo migrata verso lo streaming e le piattaforme digitali, un appassionato ha deciso di tornare indietro di sei decenni, a un’epoca in cui le melodie potevano anc...
