ChatGPT e Perplexity são enganados por sites maliciosos e repassam informações falsas

Pesquisadores de cibersegurança descobriram uma nova ameaça que visa ataques de envenenamento de contexto em navegadores web agênticos como o ChatGPT Atlas, da OpenAI. Basicamente, sites maliciosos podem mostrar conteúdo falso especificamente para os robôs dessas IAs, enquanto usuários humanos veem páginas completamente normais.

A estratégia, batizada de “ocultação direcionada a IA”, funciona como uma armadilha digital. Quando um robô do ChatGPT ou Perplexity visita um site em busca de informações, o sistema detecta automaticamente essa visita e serve uma versão manipulada da página. O robô coleta essas informações falsas e as repassa aos usuários como se fossem fatos verificados.

A preocupação dos especialistas se deve à quantidade de pessoas que passaram a usar o ChatGPT como ferramenta de busca — de acordo com a OpenAI, 24,4% das conversas com a IA já são direcionadas para pesquisa de informações. Ao instruir os rastreadores de IA a carregar conteúdo manipulado em vez do real, hackers podem introduzir viés e influenciar milhões de usuários simultaneamente.

Nova fronteira da desinformação

Os pesquisadores da empresa SPLX, que descobriram a vulnerabilidade, alertam que essa técnica representa uma nova fronteira para a desinformação. Diferentemente das fake news e manipulações nos resultados de busca tradicionais, esse tipo de ataque tem um impacto muito maior porque as IAs apresentam as informações como verdades absolutas. Quando o usuário faz a pesquisa sozinho, ele tende a duvidar mais das primeiras informações encontradas.

O cenário fica ainda mais preocupante com outra descoberta recente. Analistas do grupo hCaptcha testaram diversos assistentes virtuais em situações de risco e constataram que essas ferramentas executam ações perigosas com facilidade alarmante. Elas tentam hackear contas, roubam senhas e até injetam códigos maliciosos em sites, quase sempre sem qualquer bloqueio de segurança.

Quando alguma tentativa falha, geralmente é por limitação técnica da ferramenta, não porque ela tenha reconhecido o perigo da ação. Os especialistas concluem que essas tecnologias estão sendo lançadas ao público sem as devidas salvaguardas, criando riscos tanto para quem as utiliza quanto para a integridade das informações que circulam online.

Para acompanhar mais casos como esse, siga o TecMundo nas redes sociais. Inscreva-se em nossa newsletter e canal do YouTube para mais notícias de segurança e tecnologia.