Il licenziamento di Sam Altman – che nel frattempo è tornato in azienda – potrebbe essere stato motivato da una lettera che il consiglio di amministrazione di OpenAI ha ricevuto dal team di ricerca dell’azienda. Nella lettera si legge la loro preoccupazione per un’IA che potrebbe essere “una minaccia per l’umanità”. e hanno avvertito che l’esecutivo sta progettando di immetterla sul mercato senza valutarne le conseguenze. Questa intelligenza artificiale è nota come Q* (pronunciato Q-Star) e, sebbene non sia stato confermato dall’azienda, conosciamo già alcuni possibili dettagli.
Q-Star, in realtà, è il nome del progetto che mira allo sviluppo di un’intelligenza artificiale generale. (AGI). A quanto pare è proprio questa che interessa ai ricercatori di OpenAI, in quanto ha molte più capacità di un’intelligenza artificiale generativa ed è quindi più potente di GPT-4, il modello che attualmente alimenta ChatGPT.
L’IA sviluppata nell’ambito del progetto Q-Star di OpenAI, per esempio, è in grado di eseguire compiti autonomi sufficientemente avanzati da sostituire gli esseri umani in alcuni ambiti. È anche in grado di risolvere problemi matematici, cosa che non tutte le IA sono in grado di fare, dato che la maggior parte di esse è brava solo a scrivere, generare contenuti e tradurre. Ma perché Q* è così preoccupante e può davvero spazzare via l’umanità?
Come funziona Q-Star?
Secondo alcune vociQ-Star di OpenAI, sarebbe composto da una combinazione di due tipi di algoritmi. Uno di questi, chiamato Q-learning, sarebbe responsabile dell’apprendimento dei compiti mediante rinforzo o per tentativi ed errori. Questo consiste nel provare un compito e verificare se funziona; se non funziona, si riprova con un’altra alternativa finché non funziona. Il secondo algoritmo, chiamato A*, migliorerebbe l’efficienza nel trovare una soluzione al problema in questione anticipando i possibili ostacoli.
Questa combinazione sarebbe stata utilizzata per alimentare altri modelli di intelligenza artificialecome AlphaGo, che ha persino vinto una partita del gioco da tavolo Go con uno dei migliori giocatori del mondo come avversario.
Cosa fa Q-Star che le altre IA OpenAI non possono fare?
Al momento, ciò che sappiamo di Q-Star di OpenAI è che l’IA sviluppata è notevolmente più intelligente di GPT-4, semplicemente per il fatto che essere in grado di risolvere problemi matematici.
Lo fa, certo, a un livello da studente di scuola elementare, ma è un notevole passo avanti se si considera che, a differenza delle risposte alle informazioni o a qualsiasi altra domanda, le equazioni matematiche hanno una sola soluzione corretta. Ciò significa che l’IA si posizionerebbe allo stesso livello di intelligenza di un essere umano.
È davvero una minaccia per l’umanità?
Le capacità dell’IA sviluppata nell’ambito del progetto Q-Star di OpenAI, inoltre, possono spingersi molto oltre. È proprio questo che preoccupa i ricercatori di OpenAI. Nella lettera, visionata da Reuters, si chiede se questi modelli possano essere abbastanza avanzati da decidere che la distruzione dell’umanità è nel loro stesso interesse..
Non è la prima volta che le capacità di un’IA vengono messe in dubbio. Qualche mese fa, un ingegnere di Google ha affermato che un modello su cui stava lavorando era diventato senziente. L’ingegnere si è persino spinto a dire che l’IA era in grado di chiedere un avvocato che la rappresentasse.
Quando sarà disponibile Q-Star?
A quanto pare, Sam Altman voleva lanciare la Q-Star sul mercato senza prima valutare le conseguenze che avrebbe potuto avere per l’umanità.ma gli eventi di OpenAI delle ultime settimane potrebbero aver fermato l’intenzione dell’esecutivo. Non è quindi chiaro quando Q-Star sarà disponibile e se, ad esempio, arriverà sul mercato con meno capacità di quelle che può offrire.
OpenAI, tuttavia, potrebbe sfruttare le sue scoperte su questa IA generale per migliorare i suoi altri modelli di IA e rendere GPT-4, ad esempio, per essere in grado di ragionare meglio o di dare risposte più specifiche.