“Tomando medidas rápidas”: Visão geral do Google sobre IA alegando falsamente que Obama é muçulmano

Com suas novas ferramentas de busca de inteligência artificial, o Google prometeu “fazer o trabalho para você” e tornar o mecanismo de busca mais rápido e suave. No entanto, parece que o gigante global da tecnologia está enfrentando problemas semanas após o seu lançamento.

No início deste mês, a empresa com sede nos EUA revelou uma ferramenta de visão geral dos resultados de pesquisa gerada por IA. Essa ferramenta única é capaz de resumir os resultados da pesquisa para os usuários, para que eles não precisem clicar em vários links para procurar respostas rápidas.

Esse recurso exclusivo colocou a empresa em apuros depois de supostamente fornecer informações falsas ou enganosas para algumas perguntas, CNN relatado.

Para apoiar esta afirmação, vários utilizadores da plataforma de redes sociais, X, publicaram como o resumo da IA ​​do gigante da tecnologia afirmava que o antigo presidente dos EUA, Barack Obama, é muçulmano – um equívoco comum sobre ele.

Esta não é a única informação enganosa fornecida aos usuários. Outro afirmou que um resumo da IA ​​do Google afirmava que “nenhum dos 54 países reconhecidos de África começa com a letra 'K'”. Isto também é incorrecto, pois esqueceu-se do Quénia.

A esse respeito, a empresa disse na sexta-feira que as visões gerais de IA para ambas as consultas foram removidas por violarem suas políticas.

Em comunicado, a porta-voz do Google, Colette Garcia, disse que a grande maioria das visões gerais de IA fornece informações de alta qualidade, com links para se aprofundar na web.

Ms Garcia observou que vários exemplos vistos foram “consultas incomuns”, enquanto a empresa também viu exemplos que foram “manipulados ou que não conseguimos reproduzir”.

“Realizamos testes extensivos antes de lançar esta nova experiência e, assim como acontece com outros recursos que lançamos na Pesquisa, agradecemos o feedback. Estamos tomando medidas rápidas quando apropriado de acordo com nossas políticas de conteúdo”, observou o funcionário.

Na parte inferior, cada visão geral da pesquisa de IA do Google reconhece que a “IA generativa é experimental”. A gigante da tecnologia afirmou que realiza testes concebidos para imitar potenciais malfeitores como parte dos seus esforços para evitar que resultados falsos ou de baixa qualidade apareçam nos resumos de IA.

Essas visões gerais de pesquisa fazem parte do grande plano do Google para incorporar a tecnologia Gemini AI em todos os seus produtos enquanto se prepara para competir com rivais como Meta e OpenAI.

No entanto, esta não foi a primeira vez que a empresa foi forçada a reduzir as capacidades das suas ferramentas de IA devido aos problemas enfrentados pelos utilizadores. Em fevereiro deste ano, o Google teve que pausar seu recurso de geração de imagens Gemini AI depois de oferecer “imprecisões” em imagens históricas.