Q-Star (Q*): la nuova IA di OpenAI che minaccia l’umanità

Il licenziamento di Sam Altman – che nel frattempo è tornato in azienda – potrebbe essere stato motivato da una lettera che il consiglio di amministrazione di OpenAI ha ricevuto dal team di ricerca dell’azienda. Nella lettera si legge la loro preoccupazione per un’IA che potrebbe essere “una minaccia per l’umanità”. e hanno avvertito che l’esecutivo sta progettando di immetterla sul mercato senza valutarne le conseguenze. Questa intelligenza artificiale è nota come Q* (pronunciato Q-Star) e, sebbene non sia stato confermato dall’azienda, conosciamo già alcuni possibili dettagli.

Q-Star, in realtà, è il nome del progetto che mira allo sviluppo di un’intelligenza artificiale generale. (AGI). A quanto pare è proprio questa che interessa ai ricercatori di OpenAI, in quanto ha molte più capacità di un’intelligenza artificiale generativa ed è quindi più potente di GPT-4, il modello che attualmente alimenta ChatGPT.

L’IA sviluppata nell’ambito del progetto Q-Star di OpenAI, per esempio, è in grado di eseguire compiti autonomi sufficientemente avanzati da sostituire gli esseri umani in alcuni ambiti. È anche in grado di risolvere problemi matematici, cosa che non tutte le IA sono in grado di fare, dato che la maggior parte di esse è brava solo a scrivere, generare contenuti e tradurre. Ma perché Q* è così preoccupante e può davvero spazzare via l’umanità?

Come funziona Q-Star?

Secondo alcune vociQ-Star di OpenAI, sarebbe composto da una combinazione di due tipi di algoritmi. Uno di questi, chiamato Q-learning, sarebbe responsabile dell’apprendimento dei compiti mediante rinforzo o per tentativi ed errori. Questo consiste nel provare un compito e verificare se funziona; se non funziona, si riprova con un’altra alternativa finché non funziona. Il secondo algoritmo, chiamato A*, migliorerebbe l’efficienza nel trovare una soluzione al problema in questione anticipando i possibili ostacoli.

LEGGI  Realme presenta il Realme C67: la fascia bassa si fa interessante con una fotocamera da 108 megapixel

Questa combinazione sarebbe stata utilizzata per alimentare altri modelli di intelligenza artificialecome AlphaGo, che ha persino vinto una partita del gioco da tavolo Go con uno dei migliori giocatori del mondo come avversario.

Cosa fa Q-Star che le altre IA OpenAI non possono fare?

Blocco di OpenAI: la restrizione imposta dai media prende di mira il web crawler GPTBot.

Al momento, ciò che sappiamo di Q-Star di OpenAI è che l’IA sviluppata è notevolmente più intelligente di GPT-4, semplicemente per il fatto che essere in grado di risolvere problemi matematici.

Lo fa, certo, a un livello da studente di scuola elementare, ma è un notevole passo avanti se si considera che, a differenza delle risposte alle informazioni o a qualsiasi altra domanda, le equazioni matematiche hanno una sola soluzione corretta. Ciò significa che l’IA si posizionerebbe allo stesso livello di intelligenza di un essere umano.

È davvero una minaccia per l’umanità?

Le capacità dell’IA sviluppata nell’ambito del progetto Q-Star di OpenAI, inoltre, possono spingersi molto oltre. È proprio questo che preoccupa i ricercatori di OpenAI. Nella lettera, visionata da Reuters, si chiede se questi modelli possano essere abbastanza avanzati da decidere che la distruzione dell’umanità è nel loro stesso interesse..

Non è la prima volta che le capacità di un’IA vengono messe in dubbio. Qualche mese fa, un ingegnere di Google ha affermato che un modello su cui stava lavorando era diventato senziente. L’ingegnere si è persino spinto a dire che l’IA era in grado di chiedere un avvocato che la rappresentasse.

Quando sarà disponibile Q-Star?

Logo OpenAI accanto a ChatGPT.
I bug di ChatGPT sono comuni.

A quanto pare, Sam Altman voleva lanciare la Q-Star sul mercato senza prima valutare le conseguenze che avrebbe potuto avere per l’umanità.ma gli eventi di OpenAI delle ultime settimane potrebbero aver fermato l’intenzione dell’esecutivo. Non è quindi chiaro quando Q-Star sarà disponibile e se, ad esempio, arriverà sul mercato con meno capacità di quelle che può offrire.

LEGGI  WhatsApp per iPhone riceve la più grande revisione del design degli ultimi anni

OpenAI, tuttavia, potrebbe sfruttare le sue scoperte su questa IA generale per migliorare i suoi altri modelli di IA e rendere GPT-4, ad esempio, per essere in grado di ragionare meglio o di dare risposte più specifiche.

Elaborazione…

Hai finito! Ora siete iscritti

Si è verificato un errore, aggiornare la pagina e riprovare.

Anche in Hipertextual:

Antonio
WRITTEN BY

Antonio

Ciao, mi chiamo Antonio. Sono uno scrittore di DFO Media e la mia passione è esplorare l'intersezione tra sport e tecnologia. Attraverso i miei scritti, svelo le innovazioni che stanno plasmando il futuro dello sport.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *