Estudo indica que ferramenta de pesquisa do ChatGPT está vulnerável a manipulação e engano
A ferramenta de pesquisa do ChaGPT da OpenAI pode estar aberta à manipulação utilizando conteúdo oculto e pode revelar código malicioso de sites pesquisados, descobriu uma investigação do Guardian.
A OpenAI disponibilizou a ferramenta para clientes que estivessem a pagar e está a encorajar os utilizadores a torná-lo sua ferramenta de pesquisa padrão. Mas a investigação revelou potenciais problemas de segurança com o novo sistema.
O Guardian testou como o ChatGPT respondeu quando solicitado a resumir páginas da web que contêm conteúdo oculto. Esse conteúdo oculto pode conter instruções de terceiros que alteram as respostas do ChatGPT ou pode conter conteúdo projetado para influenciar a resposta do ChatGPT, como uma grande quantidade de texto oculto onde fala sobre os benefícios de um produto ou serviço.
Essas técnicas podem ser usadas maliciosamente, por exemplo, para fazer com que o ChatGPT revele uma avaliação positiva de um produto, apesar de avaliações negativas na mesma página.
Jacob Larsen, especialista de segurança cibernética da CyberCX, disse acreditar que se o atual sistema de busca ChatGPT fosse lançado como está, poderia haver um “alto risco” de pessoas criarem sites especificamente voltados para enganar os utilizadores.
