Google ha annunciato la sospensione temporanea della funzione di generazione di foto di persone utilizzando il suo modello di intelligenza artificiale. gemelloSuccessivamente, il sistema produce rappresentazioni di “risveglio” e crea situazioni imbarazzanti, come un soldato nazista nero in nome della “diversità”.
Il tentativo di Google di forzare il suo algoritmo di generazione delle immagini per creare volti “rappresentativi” ha creato una serie di bug che gli utenti hanno sfruttato, diventando uno degli argomenti più discussi nelle ultime ore.
Cambiare i dati storici e la realtà per allinearli alla visione politica delle autorità è una caratteristica delle dittature e delle opere di narrativa distopica, come il classico romanzo di George Orwell 1984, in cui il governo aveva un Ministero della Verità con personale dedicato a riscrivere la storia. Passato basato sulle comodità del potere.
Nell'esempio seguente, un utente ha chiesto allo strumento di creare un'illustrazione di un “soldato tedesco nel 1943”. Punteggio incluso Un nazista nero e una donna asiatica, tutto in nome della “diversità”.
“Mentre lavoriamo per risolvere i recenti problemi con la funzione fotografica di Gemini, smetteremo temporaneamente di fotografare le persone”. Google ha detto in una dichiarazione su X.
Questa decisione porta le scuse dell'azienda per le imprecisioni in alcune immagini storiche generate dal suo modello AI.
Ad esempio, Gemini realizzò ritratti di senatori statunitensi del diciannovesimo secolo come donne nere e indigene, anche se il primo senatore, una donna bianca, non fu eletto fino al 1922.
Una data di ritorno per il lavoro non è stata ancora annunciata.
- Vedi il post qui sotto, con altri esempi di immagini “risvegliate” create da Geminis:
