Il Caso Q* di OpenAI: Tra teorie di apprendimento e algoritmi avanzati ma l’AGI è ancora molto lontana

Redazione RHC : 25 Novembre 2023 09:24

OpenAI, la società dietro la storia di successo globale dell’intelligenza artificiale (AI), ha recentemente attirato l’attenzione dei media globali a causa del controverso licenziamento e della successiva reintegrazione del suo CEO Sam Altman.

Sono sorte molte domande su questa situazione e alcuni hanno paragonato gli eventi avvenuti in azienda a scenari di serie TV come Game of Thrones. Uno dei motivi dello scandalo potrebbe essere lo spostamento dell’attenzione di Altman su altri progetti, in particolare su Worldcoin.

Tuttavia, un’altra teoria associata alla lettera “Q” è di grande interesse. Secondo fonti non ufficiali, Mira Murati, Chief Technology Officer di OpenAI, ha indicato un’importante scoperta nota come “Q Star” o “Q*” come motivo principale del conflitto, avvenuto senza la partecipazione del presidente del consiglio Greg Brockman. Brockman poi lasciò l’azienda per protesta.

“Q*” può riferirsi a due diverse teorie sull’intelligenza artificiale: Q-learning o l’ algoritmo Q* del Maryland Denial Proof System (MRPPS).

Teoria 1: Q-Learning

Il Q-learning è un metodo di apprendimento per rinforzo in cui l’intelligenza artificiale apprende attraverso prove ed errori. Questo approccio consente all’IA di trovare da sola soluzioni ottimali senza fare affidamento sull’intervento umano, a differenza dell’attuale approccio di OpenAI noto come apprendimento con feedback umano (RLHF).

A maggio, OpenAI ha pubblicato un articolo in cui affermava di aver “addestrato un modello per raggiungere nuovi livelli di risoluzione dei problemi matematici premiando ogni passaggio corretto del ragionamento, piuttosto che semplicemente premiando la risposta finale corretta”. Se utilizzassero il Q-learning o un metodo simile per raggiungere l’obiettivo, si aprirebbe una serie completamente nuova di problemi e situazioni che ChatGPT sarebbe in grado di risolvere in modo naturale.

Teoria 2: Algoritmo Q* da MRPPS

L’algoritmo Q* fa parte del sistema MRPPS ed è un metodo sofisticato per dimostrare teoremi nell’intelligenza artificiale, soprattutto nei sistemi di risposta alle domande. Questo algoritmo combina informazioni semantiche e sintattiche per risolvere problemi complessi. Se “Q” fosse associato all’algoritmo Q* di MRPPS, potrebbe indicare progressi significativi nelle capacità deduttive e nella risoluzione dei problemi nell’intelligenza artificiale.

Quindi, mentre il Q-learning mira a insegnare all’IA ad apprendere dalle interazioni con il suo ambiente, l’algoritmo Q è più mirato a migliorare le capacità deduttive dell’IA. Comprendere queste differenze è fondamentale per comprendere le potenziali implicazioni della “Q” di OpenAI. Entrambi hanno un enorme potenziale per lo sviluppo dell’intelligenza artificiale, ma le loro applicazioni e implicazioni differiscono in modo significativo.

Naturalmente, queste sono solo speculazioni, poiché OpenAI non ha spiegato il concetto e nemmeno confermato o smentito le voci secondo cui Q*, qualunque cosa sia, esiste effettivamente.

Potenziali conseguenze di “Q*”

Indipendentemente dalla teoria a cui si riferisce “Q*”, potrebbe rappresentare un passo significativo nello sviluppo dell’intelligenza artificiale. Se “Q*” fosse una forma avanzata di Q-learning, potrebbe migliorare la capacità dell’intelligenza artificiale di apprendere e adattarsi autonomamente. Nel caso in cui “Q” sia associato a un algoritmo di MRPPS, ciò potrebbe portare a progressi significativi nel ragionamento deduttivo dell’IA.

Tali progressi potrebbero avere un impatto significativo su aree che richiedono un pensiero analitico profondo, come l’analisi legale, l’interpretazione di dati complessi e persino la diagnostica medica.

Rischi e benefici “Q*” e il mito dellAGI

Con il potenziale progresso associato a Q* derivano alcune preoccupazioni e questioni etiche legate alla sicurezza, alla privacy e all’impatto sul mercato del lavoro.

Bisogna comprendere che nessuna delle teorie associate a “Q*” equivale al raggiungimento dell’Intelligenza Generale Artificiale (AGI), l’obiettivo finale della ricerca sull’IA.

In definitiva, anche se “Q*” potrebbe rappresentare un passo importante nello sviluppo di specifiche capacità di intelligenza artificiale, l’AGI rimane lontana dall’orizzonte.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.