Google pausa geração de imagens do Gemini após IA apresentar erros raciais e históricos

Em uma das imagens criadas, a IA exibiu soldados negros na Alemanha em 1943, na era nazista. Empresa reconheceu erro e disse que está melhorando as representações de sua tecnologia. Google pausa geração de imagens do Gemini após IA apresentar erros raciais e históricos

Reprodução/X

O Google suspendeu a criação de imagens de pessoas em sua IA Gemini após imprecisões históricas e raciais geradas pela tecnologia.

Nos Estados Unidos, várias pessoas que testaram a IA identificam que as ilustrações estavam equivocadas e publicaram esses retornos nas redes sociais.

Em uma postagem X (ex-Twitter), o Google reconheceu que o Gemini "apresenta imprecisões em algumas representações históricas" e que está trabalhando para corrigir o problema (leia a nota ao final da reportagem).

Em um dos erros identificados, um usuário pede para que o Gemini gere imagens de soldados alemães em 1943, na era nazista. A tecnologia, então, retornou com fotos de vários militares negros.

A IA também gerou imagens de pessoas não brancas quando foi solicitada imagem dos Pais Fundadores dos Estados Unidos (Founding Fathers), que, na verdade, são todos homens brancos (veja abaixo).

O Google começou a oferecer a geração de imagens por meio de seus modelos de IA Gemini no início deste mês.

Desde o lançamento do ChatGPT, da OpenAI, em novembro de 2022, o Google tem se esforçado para produzir software de IA que rivalize com o que a empresa apoiada pela Microsoft introduziu.

O que diz o Google:

"Estamos cientes de que Gemini apresenta imprecisões em algumas representações históricas de geração de imagens. Aqui está nossa declaração:

Estamos trabalhando para melhorar esse tipo de representação imediatamente. A geração de imagens de IA do Gemini gera uma ampla gama de pessoas. E isso geralmente é bom porque pessoas ao redor do mundo o usam. Mas está errando o alvo aqui."