Искусственный интеллект (ИИ) стал настолько универсальной технологией, что проникает практически во все сферы нашей жизни. Генеративный ИИ, начав с имитации человеческой речи, сегодня используется миллионами людей для создания изображений, видео, написания отчетов, электронных писем, генерации и исправления программного кода. Именно способность находить ошибки в коде делает ИИ мощным инструментом кибербезопасности. Однако, как это часто бывает в этой деликатной области, неправомерное использование ИИ может превратить его в потенциальную угрозу. Именно таким проектом является Claude Mythos, одно из наиболее амбициозных начинаний компании Anthropic.
Anthropic — один из главных конкурентов таких гигантов, как OpenAI, Google, Meta и Microsoft. Их ИИ-ассистент Claude уже превзошел ChatGPT и Gemini в магазинах приложений, что подтверждает серьезность их намерений. Проект Claude Mythos, представленный в апреле, характеризуется разработчиками как «новая универсальная языковая модель». Однако основное направление его деятельности — кибербезопасность. Иными словами, он призван «помогать защищать наиболее критическое программное обеспечение в мире и готовить отрасль к практикам, которые всем нам придется принять, чтобы опередить киберпреступников».
Идея благородна. Но, учитывая возможности технологии, обещающей Anthropic, опасения не заставили себя ждать. Насколько можно доверять Claude Mythos в нашем гиперподключенном мире? Что, если он станет инструментом для атак на компании, критически важные инфраструктуры и финансовые учреждения? И будучи американской компанией, может ли Claude Mythos превратиться в инструмент для США, направленный против их политических и геостратегических противников?
Что такое Claude Mythos
Claude Mythos — это новая, самая продвинутая языковая модель от Anthropic. Несмотря на то, что это универсальная модель, она специализируется на кибербезопасности и анализе уязвимостей. Представленная в апреле, эта модель ИИ пока недоступна широкой публике. Поскольку это очень перспективный инструмент, ориентированный на столь деликатную область, он находится в руках лишь избранных. Пока неясно, кто сможет управлять подобным приложением.
По словам разработчиков Claude Mythos, в ходе проведенных тестов модель смогла идентифицировать и использовать уязвимости нулевого дня во всех тестируемых операционных системах и веб-браузерах. Обнаруженные уязвимости имели возраст от десяти до двадцати лет. Самым ярким примером стал 27-летний баг в OpenBSD, который уже был исправлен. Таким образом, согласно тестам Anthropic, их новая модель ИИ способна находить уязвимости там, где люди еще не добрались. Это может быть как возможностью для улучшения, так и угрозой.
На что способен Claude Mythos
Но это еще не все. Claude Mythos обнаружил 16-летний баг в кодеке H.264 программы FFmpeg, используемой в тысячах приложений для потокового вещания и воспроизведения видео и аудио. Также были выявлены уязвимости в системах мониторинга виртуальных машин, которые очень популярны в облачных вычислениях. Не обошлось и без ядра Linux, к которому ИИ смог получить доступ как root (суперпользователь). Также были обнаружены уязвимости в веб-браузерах, которые могут быть атакованы с помощью JavaScript. Полный список можно найти в статье, опубликованной Anthropic.
Параллельно с этой новой моделью ИИ Anthropic запустила проект Glasswing. В этой инициативе участвуют Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, The Linux Foundation, Microsoft, NVIDIA и Palo Alto Networks. То есть, многие из крупнейших компаний, связанных с интернетом и искусственным интеллектом. Причина создания этой организации — необходимость противодействия злоупотреблению ИИ как оружием против «экономик, общественной безопасности и национальной безопасности».
В чем заключается полемика
Claude Mythos способен находить ошибки в приложениях и операционных системах, которые могут быть использованы для получения доступа к скомпрометированным устройствам банков, правительств, государственных учреждений или компаний. Если смотреть оптимистично, это может помочь улучшить качество современного программного обеспечения, а также того, которое мы используем и которое было разработано ранее. Но в то же время, если эта новая модель ИИ способна находить серьезные уязвимости, ничто не мешает появлению в будущем другой модели, которая будет делать то же самое. И которая окажется в руках киберпреступников или правительств, заинтересованных в подрыве банка, компании или всей экономики страны-противника.
Это не новость. Масштабные атаки на компьютерные системы обычно осуществляются с использованием ботнетов, состоящих из тысяч взломанных устройств, доступ к которым был получен за счет использования уязвимостей безопасности, ошибок или слабых мест. Или же через методы социальной инженерии, обманывающие пользователя с целью установки вредоносных приложений. С появлением искусственного интеллекта доступ к уязвимым устройствам становится проще, если ИИ способен находить скрытые лазейки, которые еще не были обнаружены.
Кибератака может преследовать различные цели: кража данных, захват устройств для крупномасштабных атак или прямое повреждение или вывод из строя сетей или компьютерных систем правительств, больниц или критически важных инфраструктур, таких как банки, интернет-провайдеры или энергетические компании.
Почему Европа настороженно относится к Claude Mythos
Европейский парламент и, в целом, все организации, входящие в Европейский Союз, уже много лет работают над созданием модели, позволяющей обеспечить самодостаточность в сфере цифровой инфраструктуры и реализовать общую стратегию кибербезопасности. Это также дополняется существующими и разрабатываемыми нормами и законами, касающимися искусственного интеллекта.
В текущем контексте технологии, подобные Claude Mythos, вызывают у Европы настороженность по ряду причин. Способность модели ИИ обнаруживать уязвимости в операционных системах или приложениях делает европейские инфраструктуры и сети более уязвимыми перед внешними атаками, будь то из экономических или политических соображений. Поэтому, поскольку Anthropic является американской компанией, существует недоверие к таким решениям, как Claude Mythos.
Не секрет, что OpenAI имеет подписанные контракты с Соединенными Штатами и несколькими федеральными агентствами, такими как NASA или Министерство обороны. И, несмотря на первоначальную настороженность, Anthropic также подписала соглашение с Пентагоном. Claude интегрируется с инструментами спорной компании Palantir и другими системами ИИ, используемыми в оборонных и разведывательных задачах. В контексте, когда Соединенные Штаты действуют самостоятельно, а их отношения с Европой находятся под угрозой, ничто не мешает использованию Claude Mythos как оружия против европейских интересов.
Перевод на португальский:
Claude Mythos e o medo que ele está a causar em toda a Europa
A inteligência artificial tornou-se uma tecnologia tão versátil que está a infiltrar-se em praticamente todos os cantos da nossa vida. A IA generativa começou por imitar a nossa forma de escrever. Mas hoje é uma ferramenta que milhões de pessoas utilizam para gerar imagens e vídeos, redigir relatórios, mensagens e e-mails, escrever código ou corrigi-lo, etc. Precisamente, a procura de erros no código de um programa ou aplicação torna a inteligência artificial numa poderosa ferramenta de cibersegurança. E, como costuma acontecer neste âmbito tão delicado, um mau uso pode transformar a IA numa ameaça em potencial. Como o Claude Mythos, um dos projetos mais ambiciosos da Anthropic.
A Anthropic é um dos principais rivais da OpenAI, Google, Meta ou Microsoft. Um rival sério se tivermos em conta que o seu assistente de IA, Claude, conseguiu desbancar o ChatGPT e o Gemini nas lojas de aplicações. E não só isso. O seu avanço parece imparável com projetos como o Claude Mythos. Apresentado em abril passado, os seus criadores falam dele como um “novo modelo de linguagem de uso geral”. No entanto, o seu campo de ação será a cibersegurança. Ou, dito de outra forma, “ajudar a proteger o software mais crítico do mundo e preparar o setor para as práticas que todos teremos de adotar para antecipar os ciberataques“.
A ideia é louvável. Mas, perante uma tecnologia capaz de fazer o que a Anthropic promete, não demoraram a surgir os receios. Num mundo hiperconectado, até que ponto podemos confiar no Claude Mythos? E se se tornasse numa ferramenta para atacar empresas e infraestruturas críticas e financeiras? E sendo uma empresa americana, poderia o Claude Mythos tornar-se numa ferramenta para os Estados Unidos atacarem os seus rivais políticos e geoestratégicos?
O que é Claude Mythos
Claude Mythos é um novo modelo de linguagem. O mais avançado da Anthropic. E, embora seja um modelo de uso geral, está a especializar-se em cibersegurança e análise de vulnerabilidades. Apresentado em abril passado, este modelo de IA ainda não está disponível para o público em geral. Por se tratar de uma ferramenta tão promissora e focada num âmbito tão delicado, de momento só está nas mãos de alguns afortunados. E está por ver que tipo de utilizadores poderão manusear uma aplicação desta índole.
Segundo explicam os responsáveis pelo Claude Mythos, durante os testes realizados, foi capaz de identificar e explorar vulnerabilidades de dia zero em todos os sistemas operativos e navegadores web representados nesses testes. Vulnerabilidades com dez a vinte anos de antiguidade. O exemplo mais flagrante, um bug de 27 anos do OpenBSD, já corrigido. Assim, segundo os testes da Anthropic, o seu novo modelo de IA é capaz de encontrar vulnerabilidades onde os humanos ainda não chegaram. E isto pode ser uma oportunidade de melhoria ou uma ameaça.
Do que é capaz Claude Mythos
Mas há mais. Claude Mythos detetou um bug de 16 anos no codec H.264 do FFmpeg, um software utilizado em milhares de aplicações de streaming e reprodução de vídeo e áudio. Também detetou vulnerabilidades na monitorização de máquinas virtuais, muito populares na computação em nuvem. Nem o kernel do Linux se salva, ao qual a IA pôde aceder como root ou superusuário. Ou os navegadores web, que podem ser atacados com JavaScript. A lista completa pode ser consultada lendo o artigo publicado pela Anthropic.
Em paralelo a este novo modelo de IA, a Anthropic também lançou o projeto Glasswing, uma iniciativa na qual participam Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, the Linux Foundation, Microsoft, NVIDIA e Palo Alto Networks. Ou seja, várias das empresas mais importantes relacionadas com a internet e a inteligência artificial. O motivo de criar esta organização deve-se à necessidade de antecipar o mau uso da IA como arma contra “economias, segurança pública e segurança nacional”.
Onde está a polémica
Claude Mythos é capaz de encontrar erros em aplicações e sistemas operativos que podem ser utilizados para aceder a dispositivos comprometidos de bancos, governos, entidades públicas ou empresas. Sendo otimistas, isto pode ajudar a melhorar a qualidade do software que se programa hoje em dia. E o que usamos e que foi programado anos atrás. Mas, ao mesmo tempo, se este novo modelo de IA é capaz de encontrar vulnerabilidades sérias, nada impede que amanhã apareça outro modelo que faça o mesmo. E que esteja nas mãos de cibercriminosos ou de governos interessados em fazer cair um banco, uma empresa ou toda a economia de um país rival.
Não é nada de novo. Os ataques a sistemas informáticos em maior escala costumam ser realizados utilizando redes zombi que têm milhares de dispositivos sequestrados, aos quais se acedeu aproveitando falhas de segurança, erros ou vulnerabilidades. Ou através de técnicas de engenharia social que enganam o utilizador para instalar aplicações maliciosas. Com a chegada da inteligência artificial, aceder a dispositivos vulneráveis torna-se mais fácil se a IA for capaz de encontrar entradas ocultas que não foram fechadas porque ainda não são conhecidas.
Um ataque cibernético pode ter muitos propósitos. Roubar dados, sequestrar dispositivos para ataques em grande escala ou, diretamente, sequestrar ou derrubar redes ou sistemas informáticos de governos, hospitais ou infraestruturas chave como bancos, fornecedores de internet ou de energia.
Porquê a Europa desconfia de Claude Mythos
O Parlamento Europeu, e em geral, todas as organizações que compõem a União Europeia, trabalham há anos para um modelo que lhes permita ser autossuficientes a nível de infraestruturas digitais e implementar uma estratégia comum de cibersegurança. O que se junta também às normas e leis que existem e que estão a ser gestadas focadas na inteligência artificial.
No contexto atual, tecnologias como o Claude Mythos são vistas com desconfiança pela Europa por vários motivos. Que um modelo de IA seja capaz de detetar vulnerabilidades em sistemas operativos ou aplicações torna as infraestruturas e redes europeias mais vulneráveis a ataques externos. Seja por interesse económico ou político. Daí que, sendo a Anthropic uma companhia americana, exista a desconfiança em relação a soluções como o Claude Mythos.
Não é segredo que a OpenAI tem contratos assinados com os Estados Unidos e várias agências federais, como a NASA ou o Departamento de Defesa. E, apesar da desconfiança inicial, a Anthropic também assinou um acordo com o Pentágono. Sem ir mais longe, o Claude integrou-se com as ferramentas da controvertida Palantir e outros sistemas de IA que são utilizados em tarefas de defesa e inteligência. Num contexto em que os Estados Unidos agem por conta própria e as suas relações com a Europa estão em risco, nada impede que o Claude Mythos seja utilizado como arma contra os interesses europeus.
