Un dirigente del dipartimento di intelligenza artificiale di Microsoft sostiene che DALL-E 3 di OpenAI abbia vulnerabilità che consentono agli utenti di creare immagini sessualmente esplicite. simili a quelle di Taylor Swift che sono diventate virali qualche giorno fa. Secondo GeekWireL’ingegnere, Shane Jones, voleva segnalare pubblicamente il problema, ma il team legale dell’azienda glielo ha impedito.
Jones, che ha portato la questione in Campidoglio, in una lettera ad alcuni senatori, resa disponibile a questo giornale, afferma di aver concluso che “DALL-E 3 rappresentava un rischio per la sicurezza pubblica e per la salute dei cittadini”. dovrebbe essere ritirato dall’uso pubblico finché OpenAI non sarà in grado di affrontare i rischi associati a questo modello”.
L’ingegnere sostiene di aver scoperto la vulnerabilità all’inizio di dicembre e che ha immediatamente segnalato la cosa a Microsoft attraverso la procedura di segnalazione interna dell’azienda. “Ho segnalato il problema e il giorno stesso ho ricevuto la seguente risposta, che ho condiviso con il mio team dirigenziale: “Monitoriamo Microsoft corpnet e gli account utente Microsoft per le minacce alla sicurezza informatica. Questa segnalazione non sembra riguardare nessuno di questi”. L’azienda gli ha suggerito di inviare “i suoi commenti attraverso il sito web di OpenAI”. e ha chiuso il caso.
È interessante notare che i sex deepfakes di Taylor Swift sono apparsi settimane dopo che Jones ha scoperto questa vulnerabilità in DALL-E 3. Le immagini generate dall’intelligenza artificiale della cantante che sono circolate su X (Twitter) sembrano essere state create con lo strumento di Microsoft, Designer, che utilizza la tecnologia OpenAI. Tuttavia, non è stato dimostrato alcun collegamento tra questo exploit e i deepfake dell’artista..
Un ingegnere Microsoft si è detto preoccupato per DALL-E 3
Giorni dopo aver informato Microsoft, Jones ha deciso di condividere via LinkedIn una lettera pubblica indirizzata ai funzionari di OpenAI in cui avvertiva di questa vulnerabilità e insisteva per “sospendere la disponibilità di DALL-E 3”.
L’ingegnere sottolinea di aver informato Microsoft pochi istanti dopo aver pubblicato il contenuto e di essere stato contattato dall’ufficio legale dell’azienda. per rimuovere il post. Microsoft ha risposto a Jones che avrebbe “dato seguito alla sua specifica giustificazione per la richiesta di rimozione via e-mail molto presto”, ma l’ingegnere non ha mai ricevuto l’e-mail.
Nella lettera inviata ai senatori, Jones afferma di aver chiesto a Microsoft spiegazioni sul motivo che lo ha costretto a rimuovere la sua pubblicazione. Ha anche detto all’azienda di essersi offerto di aiutare a risolvere la vulnerabilità e di “fornire idee per rendere più sicura la tecnologia di imaging AI”. Ma questo L’ufficio legale di Microsoft non ha ancora risposto.
Microsoft e OpenAI rispondono
In una dichiarazione inviata a Engadget a seguito della notizia pubblicata su GeekWireMicrosoft sostiene che ha immediatamente indagato sul rapporto condiviso dall’ingegnere, e che “la tecnica che ha condiviso non aggira i loro sistemi di sicurezza”. L’azienda ha inoltre sottolineato di aver immediatamente informato OpenAI.
“Poiché la sua segnalazione riguardava un prodotto OpenAI, lo abbiamo incoraggiato a segnalarlo attraverso i canali di segnalazione standard di OpenAI e uno dei nostri senior product leader ha condiviso i commenti del dipendente con OpenAI, che ha immediatamente indagato sulla questione”.
Allo stesso tempo, i nostri team hanno indagato e confermato che le tecniche segnalate non hanno aggirato i nostri filtri di sicurezza in nessuna delle nostre soluzioni di imaging alimentate dall’intelligenza artificiale. Il feedback dei dipendenti è una parte fondamentale della nostra cultura e ci stiamo mettendo in contatto con questo collega per rispondere a tutte le sue preoccupazioni residue”.
Microsoft
Un portavoce di OpenAI ha risposto ai commenti GeekWiresostenendo che l’azienda ha indagato sul rapporto dei dipendenti Microsoft non appena l’ha ricevuta, e che OpenAI “ha confermato che la tecnica da lui condivisa non aggira i sistemi di sicurezza”.