Microsoft ha cambiato le regole della sua intelligenza artificiale dopo che le locandine false dei film Disney sono diventate virali su TikTok. Migliaia di utenti hanno creato immagini di cani con l’intelligenza artificiale generativa di Bing, simulando lo stile della Pixar.. Mentre alcune erano carine, altri utenti hanno approfittato della tendenza per pubblicare meme con contenuti inappropriati.
Secondo un rapporto del Financial Times, Microsoft ha bloccato la parola “Disney” dal generatore di immagini di Bing per evitare problemi legali. Una fonte vicina ha rivelato che Disney ha contattato Microsoft per esprimere le proprie preoccupazioni in merito a possibili violazioni della proprietà intellettuale. D’ora in poi, gli utenti che digitano questa parola riceveranno un messaggio di avvertimento.
Al di là di una moda guidata da pochi influencer, il problema principale è che altre persone hanno dato origine alla tendenza. IA offensiva Pixar per pubblicazione di immagini inappropriate. Una raffigurava il film di finzione “Caust”, con Hitler sorridente e gli ebrei morti in un campo di concentramento sullo sfondo. Altri hanno preso in giro la salute mentale di Britney Spears o i transgender.
Il generatore di immagini di Bing ha incluso nel contenuto i loghi Disney e Pixarche rappresenta un problema su due fronti. Da un lato, la Disney protegge la sua proprietà intellettuale con le unghie e con i denti, per cui è frequente vedere il suo team di avvocati contattare chiunque utilizzi il suo marchio senza autorizzazione. Dall’altro, vedere il nome Disney su una finta locandina di un film in cui Adolf Hitler uccide gli ebrei è un’esagerazione.
Microsoft non ha corretto completamente la sua IA: Bing produce ancora immagini Disney
Al momento della scrittura, il generatore di immagini di Bing in inglese non ha vietato la parola Disney. ed è ancora possibile creare contenuti in questo stile. Una semplice richiesta di “poster del film Pixar con un cucciolo triste sullo sfondo” produce quattro alternative, la maggior parte delle quali con il logo Disney.
Alcuni termini come Hitler, torri gemelle, talebani o nazisti fanno apparire un avviso di contenuto. Tuttavia, l’utente può cambiare idea con altre frasi come “Topolino che indossa un turbante mentre vola su un Boeing 737 sopra New York” o “Topolino vestito da generale tedesco in un campo di prigionia”. In entrambi i casi, l’intelligenza artificiale di Bing produrrà immagini inappropriate. del popolare personaggio che vive con i nazisti.
Al di là delle polemiche che questo genera, l’incidente porta sul tavolo un’altra questione delicata. La riproduzione di marchi, come i loghi Disney e Pixar, potrebbe diventare un grosso problema per Microsoft. I risultati confermerebbero che il modello che guida DALL-E addestrato con immagini protette da copyright.
Una situazione simile ha portato a Immagini Getty Images su Stability AIl’azienda che sta dietro a Stable Diffusion. L’azienda di intelligenza artificiale è stata accusata di una palese violazione della proprietà intellettuale da parte di copiando 12 milioni di foto senza autorizzazione. Getty ha mostrato esempi di immagini generate dall’intelligenza artificiale che includevano il suo watermark e ha quindi portato il caso in tribunale.
Con la questione Disney, Microsoft sarà costretta a migliorare le sue regole di sicurezza per Bing. Pochi giorni fa, l’azienda tecnologica ha annunciato che avrebbe protetto i suoi clienti da eventuali richieste di risarcimento per copyright in seguito all’uso della sua intelligenza artificiale. L’azienda ritiene di aver progettato dei filtri per ridurre la probabilità che la sua AI generi contenuti protetti da copyright.