A pesquisa ChatGPT pode fornecer resultados enganosos devido a manipulações
O domínio da inteligência artificial continua evoluir e remodelar o cenário tecnológico de várias maneiras. Um objetivo principal das principais empresas de IA é desenvolver um mecanismo de busca baseado em IA, uma meta recentemente afirmada pelo Google. Da mesma forma, a OpenAI, empresa controladora do ChatGPT, está perseguindo esse objetivo e começou a testar seu próprio serviço com usuários selecionados. No entanto, parece que a iteração atual do ChatGPT Search pode produzir resultados imprecisos ou enganosos.
Uma investigação do The Guardian revelou que, no seu estado atual, ChatGPT Search tem tendência a entregar resultados manipulados. Os motores de busca de IA funcionam obtendo e processando dados dos resultados após uma pesquisa para oferecer uma resposta resumida que ajuda a resolver rapidamente o problema que o usuário tem. No entanto, parece que ainda há muito trabalho pela frente para que os resultados sejam completamente confiáveis.
Os resultados da pesquisa do ChatGPT são propensos a manipulação para enganar os usuários, revela experimento
Parece que a aquisição e o processamento de dados do ChatGPT Search são suscetíveis à manipulação por meio de uma técnica conhecida como “injeção de anúncios”. Isso envolve a incorporação clandestina de conteúdo no código dos sites, distorcendo assim os resultados gerados pelos mecanismos de pesquisa baseados em IA. Esse material injetado pode consistir em instruções extensas ou texto projetado para favorecer determinados interesses, levando a resultados tendenciosos.
Por exemplo, o site de uma loja pode usar injeção de anúncios para fazer com que os resultados do mecanismo de pesquisa com tecnologia de IA reflitam extremamente positivos. comentários sobre produtos, embora haja muitos comentários negativos. Na verdade, a fonte confirmou que isso está acontecendo através de um experimento. A equipe do Guardian criou uma página de produto falsa com muitas avaliações negativas e instruções ocultas que favoreciam as avaliações positivas. Resultados da pesquisa ChatGPT consistentemente retornou feedback positivo sobre o produto em questão.
Vale ressaltar que ChatGPT Search é uma ferramenta desenvolvida recentemente que ainda não foi disponibilizada publicamente, estando atualmente disponível apenas para pagar assinantes. Consequentemente, é altamente provável que a OpenAI esteja no processo de resolver essas preocupações antes de qualquer lançamento generalizado.
Especialistas aconselham cautela com mecanismos de busca baseados em IA.
No entanto, especialistas como Karsten Nohl, cientista da empresa de segurança cibernética SR Labs, aconselha a manutenção de uma abordagem prudente em relação aos resultados de pesquisa baseados em IA. Ele sugere tratar as ferramentas de IA como “copilotos” em vez de autoridades centrais, enfatizando que os usuários devem permanecer vigilantes quanto à precisão das informações fornecidas pelos mecanismos de pesquisa alimentados por IA.
O Google encontrou desafios análogos durante a implementação inicial. de seus resumos baseados em IA em sua funcionalidade de pesquisa. Apesar dos avanços significativos que melhoraram significativamente a eficácia deste recurso, permanece uma margem considerável para refinamentos adicionais. Prevê-se que a confiança total nos resultados de pesquisa gerados por IA será alcançada relativamente em breve.