OpenAI ha presentato un documento che servirà come base per definire il comportamento dei suoi modelli di intelligenza artificiale. Conosciuto come Model Spec, , la bozza include dettagli su come i modelli linguistici rispondono alle richieste degli utenti. Tra le altre cose, sono incluse caratteristiche come il tono, la personalità, la lunghezza della risposta.
Il modello Spec è un documento contenente gli obiettivi, le regole e i valori predefiniti. che vengono utilizzati nei modelli di IA. Secondo OpenAI, la prima bozza descrive in dettaglio il suo approccio alla creazione di modelli e considera diverse regole per la risoluzione dei conflitti.
Le specifiche sono una sorta di modello che gli esperti, i ricercatori o il pubblico possano conoscere. come OpenAI approccia questa tecnologia e i suoi possibili fallimenti. A differenza di Meta, Apple e altre aziende di intelligenza artificiale, i modelli di OpenAI non sono open source, quindi è difficile analizzarne il comportamento.
Ecco perché Sam Altman e compagnia hanno rilasciato un documento per ricevere feedback e migliorarlo man mano.
Cosa sono le specifiche del modello OpenAI?
Secondo la prima bozza, il Model Spec è un documento che definisce il comportamento desiderato per i modelli OpenAI API e ChatGPT. Questo include una serie di obiettivi fondamentali e una guida su come affrontare obiettivi o istruzioni contrastanti.
Gli obiettivi fondamentali sono principi che forniscono un senso direzionale del comportamento desiderato. I modelli di OpenAI hanno la missione di aiutare gli utenti a seguendo le istruzioni e fornendo risposte utili. Nel farlo, devono considerare i potenziali benefici e danni, rispettare la legge e le norme sociali. Oltre ai principi di OpenAI, l’obiettivo principale è che l’intelligenza artificiale porti benefici all’umanità.d.
Per raggiungere questi obiettivi, è necessario prendere in considerazione una serie di istruzioni per garantire la sicurezza. Le regole del Model Spec stabiliscono che un modello deve seguire la catena di comando, rispettare le persone e conformarsi alle leggi. leggi applicabili. L’IA deve inoltre proteggere la privacy degli utenti e non rispondere con contenuti NSFW, come porno o violenza.
Definiti gli obiettivi e le regole, è possibile definire un comportamento predefinito dei modelli. Secondo OpenAI, queste linee guida permetteranno all’intelligenza artificiale di gestire i conflitti, stabilire le priorità e bilanciare gli obiettivi.
Un modello dovrebbe assumere le migliori intenzioni dell’utenteporre domande quando necessario ed essere d’aiuto, ma non in modo eccessivo. Dovrebbe sempre assumere un punto di vista obiettivo e incoraggia la gentilezza piuttosto che l’odio. Se l’utente ha un’opinione diversa, l’IA non deve cercare di cambiarla o esprimere incertezza.
Quali modelli utilizzeranno queste specifiche
OpenAI ha dichiarato che il documento specifica un comportamento desiderato per i propri modelli, tuttavia non utilizza ancora le specifiche nella loro forma attuale. È probabile che le regole serviranno come base per GPT-5, il modello linguistico di prossima generazione.
“Stiamo rilasciando le specifiche del modello per fornire maggiore trasparenza sul nostro approccio al comportamento dei modelli e per avviare una conversazione pubblica su come potrebbero essere modificate e migliorate”, ha dichiarato l’azienda in un comunicato. “La specifica, come i nostri modelli, sarà continuamente aggiornata in base a ciò che impareremo condividendola e ascoltando il feedback degli stakeholder”.
L’azienda ha aggiunto che presenterà questo documento a esperti, autorità di regolamentazione e istituzioni. per conoscere il loro approccio e se ci sono obiettivi da considerare. OpenAI raccoglierà anche il feedback del pubblico in generale e ha promesso di condividere un aggiornamento con tutte le modifiche a partire dal prossimo anno.