OpenAI svela il Model Spec, le regole per definire il comportamento ideale delle IA

OpenAI ha presentato un documento che servirà come base per definire il comportamento dei suoi modelli di intelligenza artificiale. Conosciuto come Model Spec, , la bozza include dettagli su come i modelli linguistici rispondono alle richieste degli utenti. Tra le altre cose, sono incluse caratteristiche come il tono, la personalità, la lunghezza della risposta.

Il modello Spec è un documento contenente gli obiettivi, le regole e i valori predefiniti. che vengono utilizzati nei modelli di IA. Secondo OpenAI, la prima bozza descrive in dettaglio il suo approccio alla creazione di modelli e considera diverse regole per la risoluzione dei conflitti.

Le specifiche sono una sorta di modello che gli esperti, i ricercatori o il pubblico possano conoscere. come OpenAI approccia questa tecnologia e i suoi possibili fallimenti. A differenza di Meta, Apple e altre aziende di intelligenza artificiale, i modelli di OpenAI non sono open source, quindi è difficile analizzarne il comportamento.

Ecco perché Sam Altman e compagnia hanno rilasciato un documento per ricevere feedback e migliorarlo man mano.

Cosa sono le specifiche del modello OpenAI?

Il chip di intelligenza artificiale di OpenAI per alimentare i vostri modelli

Secondo la prima bozza, il Model Spec è un documento che definisce il comportamento desiderato per i modelli OpenAI API e ChatGPT. Questo include una serie di obiettivi fondamentali e una guida su come affrontare obiettivi o istruzioni contrastanti.

Gli obiettivi fondamentali sono principi che forniscono un senso direzionale del comportamento desiderato. I modelli di OpenAI hanno la missione di aiutare gli utenti a seguendo le istruzioni e fornendo risposte utili. Nel farlo, devono considerare i potenziali benefici e danni, rispettare la legge e le norme sociali. Oltre ai principi di OpenAI, l’obiettivo principale è che l’intelligenza artificiale porti benefici all’umanità.d.

LEGGI  Sono trapelate le prime immagini del Sonos Sub Mini, il subwoofer più economico del marchio.

Per raggiungere questi obiettivi, è necessario prendere in considerazione una serie di istruzioni per garantire la sicurezza. Le regole del Model Spec stabiliscono che un modello deve seguire la catena di comando, rispettare le persone e conformarsi alle leggi. leggi applicabili. L’IA deve inoltre proteggere la privacy degli utenti e non rispondere con contenuti NSFW, come porno o violenza.

Definiti gli obiettivi e le regole, è possibile definire un comportamento predefinito dei modelli. Secondo OpenAI, queste linee guida permetteranno all’intelligenza artificiale di gestire i conflitti, stabilire le priorità e bilanciare gli obiettivi.

Un modello dovrebbe assumere le migliori intenzioni dell’utenteporre domande quando necessario ed essere d’aiuto, ma non in modo eccessivo. Dovrebbe sempre assumere un punto di vista obiettivo e incoraggia la gentilezza piuttosto che l’odio. Se l’utente ha un’opinione diversa, l’IA non deve cercare di cambiarla o esprimere incertezza.

Quali modelli utilizzeranno queste specifiche

ChatGPTChatGPT

OpenAI ha dichiarato che il documento specifica un comportamento desiderato per i propri modelli, tuttavia non utilizza ancora le specifiche nella loro forma attuale. È probabile che le regole serviranno come base per GPT-5, il modello linguistico di prossima generazione.

“Stiamo rilasciando le specifiche del modello per fornire maggiore trasparenza sul nostro approccio al comportamento dei modelli e per avviare una conversazione pubblica su come potrebbero essere modificate e migliorate”, ha dichiarato l’azienda in un comunicato. “La specifica, come i nostri modelli, sarà continuamente aggiornata in base a ciò che impareremo condividendola e ascoltando il feedback degli stakeholder”.

L’azienda ha aggiunto che presenterà questo documento a esperti, autorità di regolamentazione e istituzioni. per conoscere il loro approccio e se ci sono obiettivi da considerare. OpenAI raccoglierà anche il feedback del pubblico in generale e ha promesso di condividere un aggiornamento con tutte le modifiche a partire dal prossimo anno.

LEGGI  Google rinnova la sua AI: uccide Assistant e Bard e punta tutto su Gemini

Elaborazione…

Hai finito! Ora siete iscritti

Si è verificato un errore, aggiornare la pagina e riprovare.

Anche in Hipertextual:

Antonio
WRITTEN BY

Antonio

Ciao, mi chiamo Antonio. Sono uno scrittore di DFO Media e la mia passione è esplorare l'intersezione tra sport e tecnologia. Attraverso i miei scritti, svelo le innovazioni che stanno plasmando il futuro dello sport.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *