В то время как Apple представила свою собственную модель искусственного интеллекта Apple Intelligence, делая акцент на конфиденциальности пользователя, многие другие модели ИИ, такие как Claude, Gemini, Meta AI или GPT, работают через внешние серверы. Концепция локальной работы ИИ, предложенная Apple, стала популярной. Появились альтернативы, позволяющие тестировать различные модели ИИ локально, например, приложение Locally AI.

Apple Intelligence, по словам Тима Кука, частично работает локально, используя мощные чипы Apple в iPhone, iPad и Mac. Эта идея развивается, и в будущем Apple Intelligence будет совместим с Gemini, Claude и другими ИИ. Это похоже на то, что уже происходит с OpenAI, и обеспечивает преимущества в плане конфиденциальности по сравнению с прямым использованием этих моделей через официальные приложения.

Существуют и другие проекты, предлагающие похожие возможности. Они позволяют использовать искусственный интеллект на мобильных, портативных или настольных устройствах, но с использованием открытых моделей, которые можно установить. Локальная работа ИИ дает больше контроля и уверенности в отношении безопасности данных. Если на ПК и Mac есть Ollama, LM Studio или NodeTool, а на Android — SmolChat или Google AI Edge Gallery, то для iPhone, iPad и/или Mac рекомендуется попробовать Locally AI. Это приложение позволяет тестировать самые мощные открытые модели ИИ локально.

Что такое Locally AI

Locally AI — это бесплатное приложение с открытым исходным кодом, без рекламы, которое можно установить на iPhone, iPad и Mac. Оно позволяет устанавливать и запускать модели ИИ офлайн, приватно и без необходимости регистрации или входа. Приложение оптимизировано для процессоров Apple Silicon, поэтому пока не имеет версий для Windows, Linux или Android.

Locally AI поддерживает следующие модели ИИ (по данным с их сайта): “все модели полностью работают офлайн на вашем устройстве с оптимизацией Apple Silicon для максимальной производительности и конфиденциальности”:

• Llama: Модель ИИ от Meta.
• Gemma: Открытая модель ИИ от Google, связанная с Gemini.
• SmolLM: ИИ от Hugging Face.
• DeepSeek: Китайская модель ИИ, привлекшая внимание.
• Qwen: Модель ИИ от Alibaba.
• Granite: Модель ИИ от IBM, ориентированная на корпоративный сектор.
• Cogito: Перспективная модель ИИ от стартапа Deep Cogito.
• LFM (Liquid Foundation Models): Семейство моделей ИИ от стартапа Liquid AI, оптимизированных для мобильных устройств и носимых гаджетов.

Что можно делать с Locally AI

Locally AI упрощает установку открытых моделей ИИ на iPhone, iPad и Mac. Приложение выступает посредником между пользователем и ИИ. Его работа аналогична ChatGPT, Claude или Gemini: вы устанавливаете модель ИИ, начинаете диалог и задаете вопросы. Можно делиться документами и файлами для обработки ИИ, при этом без подключения к интернету, кроме случаев поиска информации.

Locally AI также поддерживает голосовой режим для совместимых моделей ИИ, позволяя общаться с ИИ голосом. Ваш голос обрабатывается локально, не отправляясь в облако. Приложение интегрируется с экосистемой Apple: можно открывать Locally AI с помощью Siri, создавать автоматизации через приложение “Быстрые команды” или добавлять кнопки на экран блокировки, центр управления, а также использовать действие кнопки для запуска Locally AI.

Преимущества и недостатки локального ИИ

Основные преимущества локальной работы ИИ:

• Офлайн: ИИ работает без подключения к интернету, все взаимодействие происходит на вашем устройстве.
• Приватность и безопасность: Ваши данные и файлы не покидают устройство. Обработка происходит локально, данные не собираются.
• Больше контроля над ИИ: Установка ИИ на устройство дает больше контроля и возможностей для персонализации.

Основные недостатки локальной работы ИИ:

• Занимает место: Модели ИИ требуют значительного объема памяти. Чем мощнее модель, тем больше места она занимает.
• Нагрузка на процессор: Локальный ИИ интенсивно использует чип устройства, что может приводить к нагреву и снижению времени автономной работы. Производительность зависит от мощности чипа.

Locally AI и LM Studio

Приложения вроде Locally AI открывают доступ к открытым моделям ИИ, работающим локально, предлагая лучшую конфиденциальность и интеграцию с устройствами Apple. Если вас не устраивает Apple Intelligence или вы не доверяете Claude, Gemini или ChatGPT, Locally AI — отличный выбор.

LM Studio, известный инструмент для работы с открытыми моделями ИИ, приобрел Locally AI в начале апреля. Создатель Locally AI, Adrien Grondin, присоединился к команде LM Studio. Locally AI продолжает регулярно обновляться для поддержки новых версий совместимых моделей ИИ. Оба инструмента бесплатны. LM Studio ориентирован на Windows и macOS, тогда как Locally AI доступен на iOS, iPad и macOS.

Перевод на португальский:

Locally AI: Como instalar Llama, Gemma, Qwen ou DeepSeek em modo local no seu iPhone, iPad e Mac

Quando a Apple apresentou seu próprio modelo de inteligência artificial, Apple Intelligence, ela se desvinculou da concorrência priorizando a privacidade do usuário. Ou seja, Tim Cook enfatizou que sua IA seria poderosa, intuitiva, integrada e pessoal. Mas, o mais importante, seria privada. Diferentemente de modelos como Claude, Gemini, Meta AI ou GPT, que se comunicam com servidores externos pela internet para atender às nossas perguntas e solicitações. E uma das razões dessa privacidade era que a IA funcionava em modo local. Com o tempo, surgiram alternativas semelhantes que permitem testar diferentes modelos de IA localmente. Um exemplo: o app Locally AI.

Quando Tim Cook apresentou Apple Intelligence ao mundo, ele disse que sua IA realizava parte do trabalho em modo local. Graças, em grande parte, aos poderosos chips da Apple que já integram praticamente todos os iPhones, iPads e Macs do mercado. Alguns anos depois, a ideia continua de pé, mas o modelo de IA da Apple não decolou completamente. Recentemente, soubemos que, no futuro, Apple Intelligence será compatível com Gemini, Claude e outras IAs. Algo semelhante ao que já vem acontecendo com a OpenAI. Com as vantagens que isso acarreta em termos de privacidade em comparação com o uso direto desses modelos de IA a partir dos aplicativos oficiais.

Em paralelo, outros projetos se dedicam a oferecer algo semelhante, mas à sua maneira. A possibilidade de se beneficiar da inteligência artificial em seus dispositivos móveis, portáteis ou de mesa, mas utilizando modelos abertos que você pode instalar. IA em modo local que lhe dá mais controle e tranquilidade sobre a inteligência artificial e sobre os dados e informações que você compartilha com essa tecnologia. Se em PC e Mac temos Ollama, LM Studio ou NodeTool, e no Android existem soluções como SmolChat ou Google AI Edge Gallery, se você tem iPhone, iPad e/ou Mac, propomos que experimente Locally AI. Um aplicativo que permitirá que você teste os modelos de IA abertos mais poderosos em modo local. 

Para que serve o Locally AI

Seu nome diz tudo. Locally AI é um aplicativo gratuito, sem publicidade e de código aberto, que você pode instalar em iPhone, iPad e Mac. E, como o nome indica e sua página oficial explica, serve para instalar e executar modelos de IA offline, de forma privada e sem necessidade de se registrar ou fazer login. E, entre outras vantagens, este aplicativo é otimizado para processadores Apple Silicon. Por isso, por enquanto, não tem versão para Windows, Linux ou Android.

No momento de escrever estas linhas, o Locally AI é compatível com os seguintes modelos de IA em diferentes versões. Segundo indica seu site, “todos os modelos rodam completamente offline no seu dispositivo com a otimização Apple Silicon para máximo desempenho e privacidade”:

• Llama. É o modelo de IA da Meta. O que faz funcionar o Meta AI, por exemplo.
• Gemma. É o modelo de IA aberto do Google. Parentesco com o Gemini.
• SmolLM. A IA da Hugging Face, uma plataforma de referência em IA.
• DeepSeek. A IA chinesa que fez a NVIDIA despencar na bolsa. E que sempre dá o que falar.
• Qwen. É o modelo de IA da Alibaba, um gigante tecnológico chinês.
• Granite. Este modelo de IA vem da IBM, o gigante azul. Focado no mundo empresarial.
• Cogito. Um modelo de IA da startup americana Deep Cogito. Promissor.
• LFM. Acrônimo de Liquid Foundation Models, uma família de modelos de IA da startup Liquid AI. Otimizados para celulares e wearables.

O que você pode fazer com o Locally AI

O propósito do Locally AI é facilitar a tarefa de instalar modelos de IA abertos no seu iPhone, iPad e Mac. Mas, o que você pode fazer com isso? Assim como acontece com o ChatGPT, Claude ou Gemini, o aplicativo Locally AI faz de intermediário entre o usuário e a inteligência artificial. E se você já utiliza alguns dos assistentes mencionados anteriormente, seu funcionamento é idêntico. Você instala o modelo de IA, inicia uma conversa ou chat e começa a pedir coisas. Além disso, poderá compartilhar documentos e arquivos com a IA para que ela os processe. Isso sim, sem se conectar à internet, exceto para buscar informações.

Assim como acontece com outros assistentes de IA, o Locally AI permite que você use o modo de voz dos modelos de IA compatíveis. Ou seja, você poderá falar com a IA em vez de escrever mensagens. E como funciona localmente, sua voz fica ali. Não é processada na nuvem. Além disso, o aplicativo se integra ao dispositivo da Apple como outros apps, de forma que você pode abrir o Locally AI com a Siri, criar automações com o app Atalhos ou adicionar botões à tela de bloqueio, central de controle ou usar o botão de ação para abrir o Locally AI.

Vantagens e inconvenientes da IA local

Embora já tenhamos mencionado, em grande parte, as principais vantagens de usar IA em modo local em vez de fazê-lo com os modelos online mais populares, vamos fazer um breve resumo. E, já que estamos, vamos ver as principais desvantagens ou inconvenientes da IA em modo local.

• Offline. Ao ter a IA em modo local, ela não precisa se conectar à internet para enviar suas perguntas, compartilhar seus dados com seus servidores e devolver a resposta. Tudo é feito no seu iPhone, iPad ou Mac. 
• Privado e seguro. Ao funcionar em modo local, seus dados e arquivos compartilhados não saem do seu dispositivo. Não há processamento na nuvem, nem coleta de dados. Na App Store, somos avisados de que este aplicativo, por enquanto, “não coleta dados”.
• Mais controle sobre a IA. Outra consequência de instalar a IA em seu dispositivo é que você tem mais controle sobre ela e pode personalizá-la mais facilmente. Sempre e quando souber escrever os prompts adequados.

E quanto aos inconvenientes? Nem tudo é positivo. E, inevitavelmente, sempre há um preço a pagar. Embora não literal.

• Ocupa espaço. Modelos de IA ocupam muito em um disco ou unidade de armazenamento. Quanto mais potente e complexo, mais espaço. De forma que se você for usar IA em modo local no seu iPhone, tenha isso em mente porque talvez precise abrir mão de certos apps e jogos. No iPad e Mac, será mais tolerável, mas também tem espaço limitado.
• A potência do seu chip. Outra consequência de usar IA localmente é que ela utiliza o chip do seu iPhone, iPad ou Mac para realizar seu trabalho. Isso implica um uso intensivo do chip. Portanto, o dispositivo pode aquecer e a bateria durar menos. E se o chip não for suficientemente potente, as respostas às suas solicitações podem demorar um pouco mais do que o desejado. Não é o mesmo um A18 do que um M5. E o mesmo ocorre com um A18 e um A18 Pro ou um M5, M5 Pro ou M5 Max.

Locally AI e LM Studio

Se você não se convence totalmente com o Apple Intelligence ou desconfia do Claude, Gemini ou ChatGPT, aplicativos como o Locally AI abrem as portas para trabalhar com modelos de IA abertos e em modo local que podem lhe dar melhores resultados em determinadas tarefas. A isso se acrescenta a vantagem da privacidade e o fato de o aplicativo ser projetado para trabalhar lado a lado com seus dispositivos Apple.

E se você ainda não conhecia o Locally AI, outra razão para experimentá-lo é que chamou a atenção do LM Studio, uma das ferramentas mais conhecidas para interagir com modelos de IA abertos. No início de abril, o LM Studio anunciou que havia comprado o Locally AI. E que seu criador, Adrien Grondin, passa a fazer parte da equipe que desenvolve o LM. Por enquanto, isso não impede que o Locally AI continue sendo atualizado regularmente para ser compatível com as versões mais recentes de seus modelos de IA compatíveis. Além disso, ambas as ferramentas são gratuitas. No entanto, o LM Studio está focado em Windows e macOS, enquanto o Locally AI pode ser usado em iOS, iPad e macOS.