Google presenta PaLM 2 ma senza specificare il numero di parametri. Quanto sono indietro rispetto a GPT-4?

Redazione RHC : 15 Maggio 2023 06:49

Mercoledì, Google ha presentato PaLM 2, una famiglia di modelli linguistici di base (LLM) paragonabili per capacità a GPT-4 di OpenAI. Al suo evento Google I/O a Mountain View, in California, Google ha annunciato di utilizzare già PaLM 2 per alimentare 25 prodotti, incluso il suo assistente AI conversazionale Bard.

PaLM 2 è una famiglia di modelli linguistici di grandi dimensioni (LLM) che sono stati addestrati su un’enorme quantità di dati e sono in grado di prevedere la parola successiva dopo l’input umano. 

PaLM è l’abbreviazione di “Pathways Language Model” e “Pathways” è una tecnica di apprendimento automatico creata da Google. PaLM 2 è il sequel dell’originale PaLM che Google ha annunciato nell’aprile 2022.

Sponsorizza la prossima Red Hot Cyber Conference! Il giorno Lunedì 18 maggio e martedì 19 maggio 2026 9 maggio 2026, presso il teatro Italia di Roma (a due passi dalla stazione termini e dalla metro B di Piazza Bologna), si terrà la V edizione della la RHC Conference.  Si tratta dell’appuntamento annuale gratuito, creato dalla community di RHC, per far accrescere l’interesse verso le tecnologie digitali, l’innovazione digitale e la consapevolezza del rischio informatico.  Se sei interessato a sponsorizzare l'evento e a rendere la tua azienda protagonista del più grande evento della Cybersecurity Italiana, non perdere questa opportunità. E ricorda che assieme alla sponsorizzazione della conferenza, incluso nel prezzo, avrai un pacchetto di Branding sul sito di Red Hot Cyber composto da Banner più un numero di articoli che saranno ospitati all'interno del nostro portale.  Quindi cosa stai aspettando? Scrivici subito a [email protected] per maggiori informazioni e per accedere al programma sponsor e al media Kit di Red Hot Cyber. Supporta Red Hot Cyber attraverso:  L'acquisto del fumetto sul Cybersecurity Awareness Ascoltando i nostri Podcast Seguendo RHC su WhatsApp Seguendo RHC su Telegram Scarica gratuitamente “Byte The Silence”, il fumetto sul Cyberbullismo di Red Hot Cyber Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì.

Secondo Google, PaLM 2 supporta più di 100 lingue. Durante il suo keynote di Google I/O, il CEO di Google Sundar Pichai ha affermato che PaLM 2 è disponibile in quattro dimensioni: Gecko, Otter, Bison, Unicorn. Gecko è il più piccolo e può essere eseguito su un dispositivo mobile. Oltre a Bard, PaLM 2 è alla base delle funzionalità AI in documenti, fogli di calcolo e diapositive.

Ma come si confronta PaLM 2 con GPT-4? Il rapporto tecnico di PaLM 2 afferma che PaLM 2 supera GPT-4 in alcune attività di matematica, traduzione e logica. Ma la realtà potrebbe non corrispondere ai benchmark di Google. 

In una breve valutazione della versione Bard di PaLM 2, Ethan Mollick, un professore di Wharton che scrive spesso sull’intelligenza artificiale, ha scoperto che le prestazioni di PaLM 2 sembravano peggiori di GPT-4 e Bing in vari test linguistici informali, che ha dettagliato su Twitter.

Fino a poco tempo fa, la famiglia di modelli linguistici PaLM era un prodotto interno di Google Research senza accesso per i consumatori, ma Google ha iniziato a fornire un accesso limitato all’API a marzo. 

Tuttavia, il primo PaLM si è distinto per le sue enormi dimensioni: 540 miliardi di parametri. I parametri sono variabili numeriche che fungono da “conoscenza” appresa del modello, consentendogli di fare previsioni e generare testo in base all’input che riceve.

Più parametri significano approssimativamente più complessità, ma non vi è alcuna garanzia che vengano utilizzati in modo efficace. Per fare un confronto, il GPT-3 di OpenAI (dal 2020) ha 175 miliardi di parametri. OpenAI non ha mai rivelato il numero di parametri in GPT-4.

Questo approccio porta alla grande domanda: quanto è “grande” PaLM 2 in termini di numero di parametri? Google non rilascia numeri, il che ha deluso alcuni esperti del settore che spesso sostengono una maggiore trasparenza su ciò che fa funzionare i modelli di intelligenza artificiale.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.

Lista degli articoli