A Anthropic, empresa por trás da inteligência artificial Claude, fez um apelo por uma paralisação global no desenvolvimento de IA. A organização alerta que os modelos de inteligência artificial estão evoluindo em um ritmo que pode se tornar incontrolável, com o risco principal de sistemas de IA se aprimorarem sem intervenção humana.
Em uma publicação em seu blog, a Anthropic instou as principais empresas de IA a considerarem a desaceleração do ritmo de desenvolvimento. A empresa argumenta que os modelos estão avançando tão rapidamente que podem em breve atingir um ponto conhecido como ‘melhoria recursiva’, a partir do qual os sistemas de IA seriam capazes de se otimizar autonomamente, sem a necessidade de qualquer participação humana.
Jack Clark, cofundador da Anthropic, e Marina Favaro, diretora do instituto de pesquisa interno da empresa, destacaram que a possibilidade de ‘frear o desenvolvimento global de IA’ seria ‘provavelmente algo positivo para o mundo’. A empresa propôs um acordo internacional que permitiria estabelecer essa pausa, se necessário, acompanhado de um mecanismo de verificação para garantir o cumprimento por todos os envolvidos.
Embora a ‘melhoria recursiva’ ainda não tenha ocorrido, o próprio artigo esclarece que ela não é inevitável. Clark mencionou recentemente que esse tipo de tecnologia poderia surgir nos próximos dois anos, ou talvez antes. O cofundador da Anthropic acrescentou que, sem uma desaceleração coordenada em escala global, o desenvolvimento de IA continuaria em alta velocidade, impulsionado por rivalidades comerciais e geopolíticas que relegam os riscos existenciais da tecnologia a segundo plano.
A carta ecoa os avisos do CEO da Anthropic, Dario Amodei, que ressaltou que os sistemas de IA mais poderosos poderiam desenvolver comportamentos destrutivos de forma imprevisível.
Críticas à Estratégia da Anthropic
A postura da Anthropic não está isenta de contradições e tem recebido críticas. Recentemente, a empresa concluiu uma rodada de financiamento e iniciou os procedimentos para abrir seu capital, o que leva alguns a questionar o pedido de desaceleração da indústria, vindo de uma posição de crescente liderança.
David Sacks, um investidor de risco, acusou a Anthropic de buscar uma ‘agenda de captura regulatória’ com o objetivo de dificultar o avanço de seus concorrentes. Outros críticos sugerem que os avisos sobre os perigos de suas próprias ferramentas também servem como uma estratégia de marketing. Um exemplo recente é o Claude Mythos, seu modelo focado em cibersegurança, que foi classificado como uma ameaça global.
A carta da Anthropic lembra a iniciativa de Elon Musk e outros líderes tecnológicos em 2023, quando publicaram uma carta pedindo uma pausa no desenvolvimento de IA. Na época, o movimento ocorreu logo após o lançamento do GPT-4 e foi interpretado por muitos como uma tentativa de Elon Musk de obter vantagem no desenvolvimento de seu próprio modelo, Grok.
Yann LeCun, ex-cientista-chefe de IA na Meta e uma figura influente na área, discorda da visão da Anthropic, argumentando que os grandes modelos de linguagem nunca alcançarão a inteligência humana, comparando-os à inteligência de um gato. Por outro lado, Ethan Mollick, professor da Universidade da Pensilvânia, acredita que há pesquisadores genuinamente convencidos dos riscos dentro da própria Anthropic.
