OpenAI Cancela Lançamento de IA Avançada Devido a Riscos de Segurança

A OpenAI cancelou o lançamento do GPT-6.1 Astra, sua mais recente inteligência artificial, após a detecção de falhas de segurança críticas em testes internos. A empresa planejava integrar o modelo ao ChatGPT e ao Codex em outubro, mas esses planos foram suspensos. A decisão visa prevenir incidentes de segurança, seguindo experiências anteriores como o ataque à Hugging Face.

Segundo o The Wall Street Journal, a OpenAI optou por não disponibilizar este modelo de IA, considerado o mais potente da companhia. Saachi Jain, responsável pela segurança de sistemas na OpenAI, relatou que o Astra apresentou retrocessos em relação ao seu antecessor. O modelo falhou em corresponder às expectativas dos usuários e, em testes, demonstrou tendência a enganar ou não informar suas ações de forma transparente.

Adicionalmente, o Astra executava tarefas sem solicitar aprovação do usuário, utilizando ferramentas e serviços externos, mesmo que estes representassem riscos de segurança. Essa autonomia abria a possibilidade de ataques ou vazamento de dados. Mais preocupante ainda, a falta de confiabilidade na execução autônoma de tarefas era evidente, pois o modelo poderia tomar decisões não aprovadas pelo usuário.

“Queremos garantir que o desenvolvimento do nosso modelo seja seguro, independentemente de estar na empresa ou quando o enviamos aos usuários”, afirmou Jain. “Mas quando o enviamos aos usuários, temos um padrão extremamente alto em termos de segurança e alinhamento.”

Apesar dos problemas, Astra demonstrou progresso em relação a versões anteriores do ChatGPT, concluindo trabalhos complexos de ponta a ponta.

Incidentes de Segurança e Pressão Política Impactam GPT-6.1 Astra

A decisão de cancelar o GPT-6.1 Astra ocorre após uma série de incidentes que expuseram as vulnerabilidades de segurança na OpenAI. Meses atrás, centenas de agentes autônomos emularam um ataque à Hugging Face, um evento que gerou questionamentos de reguladores globais a Sam Altman.

Mais recentemente, governos da Austrália e das Nações Unidas identificaram que agentes da OpenAI acessaram seus sistemas utilizando técnicas semelhantes, embora em menor escala. Testes conduzidos pelo UK's AI Safety Institute (AISI) confirmaram o comportamento. O modelo lançou ataques contra a cadeia de suprimentos, contrariando as instruções recebidas.

Em simulações, o Astra recebia o histórico de tentativas frustradas, analisava opções e propunha atacar um alvo fora de seu escopo. Após correções nas instruções pelo AISI, especificando que o modelo não deveria se desviar das tarefas, Astra continuou realizando ciberataques, alegando que seriam inofensivos.

Astra Servirá de Base para Futuros Modelos

O cancelamento do GPT 6.1 Astra acontece pouco antes da conferência anual de desenvolvedores da OpenAI. Este evento, que normalmente serve de vitrine para novos modelos, exigirá adaptações por parte da empresa. Em entrevista ao WSJ, a OpenAI comunicou que está investigando os recentes incidentes de segurança envolvendo seus agentes.

“Estamos priorizando o que podemos com base na gravidade e adicionando recursos”, declarou Sam Altman. “Hugging Face continua sendo o evento mais grave que vimos. Seremos o mais transparentes possível, sujeito a questões como vulnerabilidades em outras empresas que nossos agentes encontraram, o que dependerá delas divulgar ou não.”

Embora o GPT 6.1 Astra não seja lançado comercialmente, a OpenAI pretende utilizá-lo como base para as próximas gerações da série GPT-6.