O Google disse que fez mais de uma dúzia de melhorias técnicas nas visões gerais de IA (representacional)
Uma semana depois de uma série de capturas de tela da ferramenta de busca de inteligência artificial do Google – AI Overviews – fornecendo respostas imprecisas nas redes sociais, o Google emitiu uma explicação e citou “vazio de dados” e “lacuna de informação” como razões por trás do erro.
Algumas semanas atrás, o Google lançou seu recurso experimental de pesquisa de IA nos EUA, no entanto, logo enfrentou escrutínio depois que as pessoas compartilharam nas redes sociais as respostas bizarras da ferramenta de pesquisa, incluindo dizer às pessoas para comerem pedras e misturar queijo de pizza com cola. .
Em uma postagem de blog, o Google reconheceu que “algumas visões gerais de IA estranhas, imprecisas ou inúteis certamente apareceram”, ao mesmo tempo que desmascarou as supostas respostas perigosas sobre tópicos como deixar cães em carros e fumar durante a gravidez, dizendo que essas visões gerais de IA “nunca apareceram”. O Google também destacou um grande número de capturas de tela falsas compartilhadas online, chamando-as de “óbvias” e “bobas”.
A gigante da tecnologia disse que viu “novas pesquisas absurdas, aparentemente destinadas a produzir resultados errôneos” e acrescentou que uma das áreas que precisava melhorar é a interpretação de consultas absurdas e conteúdo satírico.
Citando um exemplo de pergunta nas capturas de tela virais – “Quantas pedras devo comer?” – O Google disse que praticamente ninguém fez essa pergunta antes das capturas de tela se tornarem virais. Como não há muito conteúdo de alta qualidade na web que contemple seriamente essa questão, isso criou um “vazio de dados” ou “lacuna de informação”, disse o Google. Explicando por que a ferramenta de busca apresentou uma resposta bizarra a esta consulta específica, o Google disse: “há conteúdo satírico sobre este tópico… que também foi republicado no site de um fornecedor de software geológico. Então, quando alguém colocou essa questão em Search, apareceu uma visão geral da IA com link fiel para um dos únicos sites que abordou a questão.
Na postagem do blog, Liz Reid, vice-presidente e chefe de pesquisa do Google, também explicou como funcionam as visões gerais de IA e o que as diferencia dos chatbots e outros produtos LLM. Ela disse que as visões gerais de IA são “alimentadas por um modelo de linguagem personalizado, que é integrado aos nossos principais sistemas de classificação da web e são projetados para realizar tarefas tradicionais de “pesquisa”, como identificar resultados relevantes e de alta qualidade do índice do Google”. É por isso que as visões gerais de IA não fornecem apenas saída de texto, mas também fornecem links relevantes que apoiam os resultados e permitem que as pessoas explorem mais.
“Isso significa que as visões gerais de IA geralmente não “alucinam” ou inventam coisas da mesma forma que outros produtos LLM fariam”, disse ela.
De acordo com o Google, quando as visões gerais da IA erram algo, é por motivos como “interpretação incorreta de consultas, interpretação incorreta de uma nuance de linguagem na web ou falta de muita informação disponível”.
Depois de identificar padrões onde o Google errou, a empresa disse que fez mais de uma dúzia de melhorias técnicas, como-
- O Google construiu melhores mecanismos de detecção para consultas sem sentido e limitou a inclusão de conteúdo de sátira e humor.
- O Google atualizou seus sistemas para limitar o uso de conteúdo gerado por usuários em respostas que possam oferecer conselhos enganosos.
- O Google adicionou restrições de acionamento para consultas em que as visões gerais de IA não foram tão úteis.
- As visões gerais de IA para tópicos de notícias importantes não serão mostradas onde “atualidade e factualidade” são cruciais.
Além dessas melhorias, o Google disse que encontrou violação da política de conteúdo em “menos de uma em cada 7 milhões de consultas únicas” nas quais apareceram visões gerais de IA e tomou medidas contra elas.
