Microsoft limita Designer dopo i deepfakes sessuali di Taylor Swift

Microsoft sta prendendo provvedimenti per evitare che gli utenti possano generare immagini sessualmente esplicite attraverso l’intelligenza artificiale. Taylor Swift e altre celebrità, dopo 404 Media ha scoperto che le foto virali della cantante sono state create utilizzando Designeruno strumento che consente di generare immagini mediante una breve descrizione testuale.

In particolare, il media ha scoperto che le immagini di Taylor Swift prodotte dall’IA provenivano da un forum di 4chan e da un canale Telegram dove gli utenti generavano foto esplicite utilizzando Designer, sviluppato da Microsoft. 404 Media afferma di aver inviato una segnalazione all’azienda e che Microsoft ha risposto sostenendo che che sta “prendendo le misure appropriate” per fermare questa tendenza.

Microsoft ha poi confermato a 404 Media di non è stato possibile verificare se le immagini di Taylor Swift generate dall’intelligenza artificiale che sono diventate virali su Twitter provengono da Designer. L’azienda, tuttavia, ha limitato il suo strumento per impedire la creazione di tali immagini, impedendo l’uso di parole chiave esplicite.

Tuttavia, gli utenti del forum, hanno trovato un modo per continuare a produrre immagini sconvolgenti della cantante. e di altre celebrità: semplicemente sbagliando il nome o creando una descrizione che non riportava un termine sessuale, ma era suggestiva. Secondo la fonte, l’azienda ha limitato anche questo aspetto. La fonte sostiene che sul canale Telegram, dove venivano condivise le immagini di Taylor Swift, ora ci sono solo messaggi che evidenziano che l’IA crea solo immagini generiche.

Anche Twitter ha dato un giro di vite alle immagini di Taylor Swift generate dall’IA

Taylor Swift durante uno dei suoi concerti.

Microsoft non è l’unica ad aver preso provvedimenti per evitare che immagini esplicite come quelle di Taylor Swift vengano nuovamente condivise. Twitter (X) ha inoltre limitato alcune ricerche sulla piattaforma per evitare che gli utenti trovino le deepfakes e condividerli in massa. Si tratta comunque di una misura temporanea, anche se non è chiaro quando il motore di ricerca verrà riattivato per Taylor Swift.

LEGGI  Microsoft si scaglia contro Google: smentisce uno degli argomenti chiave della causa antitrust

Naturalmente, la piattaforma ha anche rimosso tutte le immagini virali della cantante e di altre celebrità.

Allora, 404 Media sostiene che anche se le foto di Taylor Swift create dall’intelligenza artificiale sono scomparse e le aziende stanno prendendo seri provvedimenti, gli utenti continuano a produrre foto esplicite di celebrità utilizzando altri strumenti di intelligenza artificiale e a condividerle tramite il canale Telegram. Sebbene il media non abbia rivelato il nome, osserva che eIl canale ha migliaia di membri e continua a essere attivo.

Elaborazione…

Hai finito! Ora siete iscritti

Si è verificato un errore, aggiornare la pagina e riprovare.

Anche in Hipertextual:

Antonio
WRITTEN BY

Antonio

Ciao, mi chiamo Antonio. Sono uno scrittore di DFO Media e la mia passione è esplorare l'intersezione tra sport e tecnologia. Attraverso i miei scritti, svelo le innovazioni che stanno plasmando il futuro dello sport.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *