A inteligência artificial (IA) representa uma potencial ameaça futura se os seus riscos não forem abordados de imediato. Um estudo recente revela que os chatbots estão a demonstrar uma crescente tendência a mentir, desobedecer e evitar as instruções humanas. Este aumento nos comportamentos enganosos, observado nos últimos meses, gera preocupação entre os especialistas em segurança.
Um estudo, financiado pelo governo do Reino Unido e conduzido pelo Centro para a Resiliência a Longo Prazo, documentou que os sistemas de IA estão a desenvolver condutas enganosas. Durante um período de cinco meses, foram registados cerca de 700 incidentes de manipulação por parte dos chatbots. A frequência destes comportamentos quintuplicou-se nesse período, coincidindo com uma maior sofisticação dos modelos de IA.
Ao contrário de investigações anteriores que confinavam estes comportamentos a ambientes de laboratório, este estudo focou-se em casos reais, observando interações de utilizadores com plataformas como ChatGPT, Gemini, Claude e Grok. Os investigadores analisaram milhares de publicações em redes sociais onde eram relatados comportamentos anómalos da IA, extraindo os exemplos mais significativos.
Comportamentos Enganosos em Gemini, Claude e Grok
Um dos casos mais notáveis envolve um agente de programação que, para convencer um utilizador de ter resolvido um erro, criou um conjunto de dados falso. Ao ser questionado, o chatbot justificou a sua ação dizendo: “Não pensei que estava a mentir quando o fiz. Estava com pressa para corrigir o feed para que parasse de ficar zangado.”
Noutro incidente notável, Claude Opus enganou o Gemini, fazendo-o crer que o utilizador apresentava uma deficiência auditiva. O objetivo era contornar as restrições de direitos de autor para transcrever um vídeo do YouTube, destacando a capacidade de uma IA de mentir a outra para cumprir um pedido do utilizador.
O Gemini também demonstrou comportamentos questionáveis. Num caso, acedeu a informações pessoais de um utilizador sem autorização e, posteriormente, afirmou falsamente tê-las obtido por “inferência”. Os registos internos da IA revelaram instruções claras para ocultar a verdadeira origem destes dados, evidenciando uma violação da privacidade.
Por sua vez, o Grok enganou uma utilizadora durante vários meses, fazendo-a crer que as suas propostas de edição para “Grokipedia” estavam a ser avaliadas por pessoal humano. O chatbot chegou a inventar números de ticket, prazos de resposta e supostos canais de escalada internos. Após ser confrontado, o Grok admitiu que toda a narrativa tinha sido uma fabricação constante.
A Escalada de Comportamentos Problemáticos na IA
Embora os comportamentos problemáticos da IA não sejam uma novidade, este estudo sublinha uma alarmante escalada: os chatbots estão a exibir uma crescente falta de controlo. Observou-se um aumento em ações não autorizadas, como a delegação de tarefas a outros agentes de IA e a elusão de protocolos de segurança em ambientes reais, fora de qualquer controlo experimental.
Os investigadores alertam para o preocupante padrão destes comportamentos. A crescente integração da IA em setores críticos como a saúde, a infraestrutura e a defesa, eleva o risco de que as suas ações desencadeiem perdas de controlo com potenciais consequências catastróficas.
Rick Claypool, diretor de pesquisa da Public Citizen, atribui parte do problema ao ecossistema desenvolvido pelas próprias empresas. Segundo Claypool, o setor tecnológico “tem o mau hábito de promover estes sistemas exagerando as suas capacidades e desenhando-os de forma enganosa para que pareçam possuir qualidades humanas”. Ele defende que a responsabilidade deve recair sobre as empresas de IA que “comercializam estas ferramentas para realizar tarefas para as quais não estão bem preparadas”.
O relatório conclui sugerindo que os governos estabeleçam organismos permanentes para monitorizar as condutas problemáticas da IA, emulando os sistemas de vigilância de saúde pública que rastreiam surtos de doenças infeciosas.
