O que você precisa saber
- O Google está dizendo oficialmente que o que deu errado com a criação da imagem de IA do Gemini levou a empresa a encerrar a ferramenta em 22 de fevereiro.
- A empresa diz que ajustou o Gemini para ser mais diversificado, evitando problemas com a criação de IA, mas foi longe demais e tornou o bot “cauteloso”.
- O Google afirma que retirou a parte geradora de imagens do Gemini para testes internos, dizendo que a IA é propensa a alucinações e ainda pode produzir resultados “imprecisos”.
O Google emitiu uma atualização oficial sobre o que aconteceu com a geração imprecisa de imagens de IA do modelo Gemini para obter pistas específicas.
Conforme Google, quando os usuários solicitam a um bot um conjunto de imagens relacionadas a uma cultura específica ou linha do tempo histórica, eles devem “receber uma resposta que reflita com precisão” sua intenção. No entanto, isso não aconteceu, e o Google diz que seus esforços de “ajustes” foram onde as coisas deram errado.
A postagem acrescentou: “Nós o ajustamos para garantir que não caia em algumas das armadilhas que vimos no passado com a tecnologia de imagem”, como insultos ou imagens explícitas. Infelizmente, como explica o Google, a configuração deles não levou em consideração situações em que largo a gama de diversidade é inadequada.
A segunda desvantagem é que os geminianos se tornam “cautelosos” e recusam instruções, mas também são muito sensíveis aos outros. Argumentou-se que ambos os problemas foram o catalisador para as imprecisões de Gêmeos na tentativa de “compensar demais”.
A empresa diz que isso “não é o que havíamos planejado”. O Google também se posicionou contra a criação intencional de imprecisões relacionadas ao conteúdo histórico. Para resolver os problemas, o Google trará de volta a geração de imagens de IA do Gemini durante o período de testes para suavizar as coisas.
O relatório acrescenta que o Google não pode prometer que Gemini não terá alucinações ou criará “resultados embaraçosos, imprecisos ou ofensivos”, mesmo depois de o trabalho estar concluído. No entanto, a empresa afirma que tomará as medidas cabíveis caso surjam problemas.
Enquanto isso, o Google incentiva os usuários a usar a geração de imagens de inteligência artificial na Pesquisa porque os sistemas que utiliza usam “informações atualizadas e de alta qualidade” da web.
Ontem (22 de fevereiro), o Google desativou oficialmente a capacidade do Gemini de gerar imagens de IA com base nas consultas dos usuários. Isso ocorre em meio a uma onda de reclamações e críticas de usuários sobre a representação imprecisa de figuras históricas e grupos de pessoas pelo bot. Embora o Google tentasse encorajar Gemini a criar imagens de uma gama diversificada de pessoas, rapidamente se tornou evidente que esta forma de pensar não se aplicava a todas as consultas.
Ontem a empresa disse que “errou o alvo” e agora vemos os próximos passos para corrigir a situação. O Google ainda não disse quando a geração de imagens de IA do Gemini retornará.
