Como executar um modelo de linguagem local complexo no seu celular: e por que você pode querer fazer isso.
Descubra como executar um Modelo de Linguagem Amplo (LLM) localmente em seu celular e quais benefícios você obterá com essa experiência.
As coisas mais importantes que você precisa saber
- Executar modelos de linguagem complexos localmente no seu telefone proporciona total privacidade e acesso offline, reduzindo a dependência de serviços em nuvem.
- Para executar modelos LLM localmente de forma eficiente, seu telefone precisa de pelo menos 6 GB de RAM, de preferência 8 GB ou mais para modelos maiores, sendo os modelos com 1 a 2 bilhões de parâmetros a melhor opção para telefones com menos memória.
- Aplicativos como o Atomic Chat ou o PocketPal AI podem ser usados para executar Modelos de Linguagem Pequenos (SLMs, na sigla em inglês), como Gemma, Llama ou Phi-4, com foco em modelos com menos parâmetros para obter melhor compatibilidade e desempenho no celular.
Já existem modelos de linguagem de grande porte (LLMs, na sigla em inglês) disponíveis gratuitamente, o que torna sua execução local em um computador algo comum e, em alguns aspectos, até mesmo uma ideia melhor — eles são mais privados, pois não é necessário enviar nada para a nuvem, e funcionam offline.
Executar esses modelos avançados de IA em celulares nem sempre foi fácil (por isso, os recursos mais avançados de IA da Siri exigem um dos iPhones mais recentes), mas agora chegamos a um ponto em que a maioria dos celulares é potente o suficiente, e alguns modelos são pequenos e eficientes o bastante, para tornar isso praticamente possível. Você pode consultar nosso artigo sobre como executar um modelo de IA local em um iPhone para obter mais detalhes.
Os benefícios são semelhantes aos de um computador desktop: você tem um modelo de linguagem (LLM) próprio, amplo, sempre disponível e privado, sem enviar dados para o Google, OpenAI, Anthropic ou qualquer outra empresa terceirizada. As desvantagens são um desempenho mais lento e limitado da sua IA, já que você estará lidando com modelos menores e menos potentes, e um possível impacto na duração da bateria (essas conversas com IA podem consumir muitos recursos).
Mesmo com essas limitações, a IA nativa que você poderá executar no seu telefone ainda será capaz de realizar tarefas e conversas do dia a dia com alta eficiência, o que significa que você pode deixar de lado o Gemini ou a Siri (e possivelmente suas outras assinaturas de IA).
O telefone necessário para executar um Modelo de Linguagem Local Amplo (LLM)
Qualquer iPhone ou celular Android lançado nos últimos dois anos deve ser capaz de executar um Modelo de Linguagem Local Grande (LLM) sem problemas; o avanço da inteligência artificial levou os fabricantes a projetarem seus dispositivos pensando nesse tipo de uso. Celulares mais antigos também podem funcionar, mas talvez seja necessário um modelo menor e o desempenho seja inferior.
A memória RAM (Random Access Memory) é, na verdade, um fator mais importante do que o desempenho do processador (chipset) para executar um modelo de IA. Você precisará de 6 GB ou mais para um desempenho satisfatório, e 8 GB ou mais é melhor para modelos maiores. Se sua RAM for inferior a 8 GB, opte por modelos com 1 a 2 bilhões de parâmetros (B), onde B significa bilhão e descreve o número de parâmetros no modelo (que essencialmente reflete sua inteligência e versatilidade).
Em relação ao espaço de armazenamento, não precisa se preocupar muito. Mesmo os modelos maiores, que utilizam de 7 a 8 bilhões de parâmetros, não ocuparão mais de 5 GB no seu telefone, então você pode manter vários modelos de IA no seu dispositivo e alternar entre eles conforme necessário.
Se você comprar um novo iPhone ou celular Android topo de linha hoje, ele virá com modelos de IA nativos pré-instalados para tarefas rápidas que podem ser realizadas offline (sem conexão com a internet). No entanto, esses modelos, criados pela Apple e pelo Google, não estão diretamente disponíveis para você como usuário; eles são usados quando a Siri e o Gemini consideram essa a melhor opção.
Aplicações e modelos necessários para executar um Modelo de Linguagem Local de Grande Porte (LLM)
Existem diversos aplicativos disponíveis que permitem executar modelos de IA no seu celular. Entre os mais populares estão o Atomic Chat ( para Android ou iOS ) e o PocketPal AI ( para Android ou iOS ). Há algumas diferenças entre eles; por exemplo, o Atomic Chat é mais fácil de dimensionar para incluir modelos LLM em computadores desktop, enquanto o PocketPal AI é um pouco mais leve, mas ambos são excelentes para começar a usar IA nativa no seu celular.
Quanto aos próprios modelos — às vezes chamados de SLMs ou Modelos de Linguagem Pequenos, porque são projetados para funcionar em ambientes limitados — você também tem muitas opções. Por exemplo, Gemma é o termo genérico para os modelos de código aberto que o Google fornece gratuitamente, e alguns deles são especificamente projetados para funcionar em espaços reduzidos e com menos recursos (como o seu celular).
A Meta possui seus próprios modelos de IA de código aberto, chamados Llama, enquanto a Microsoft oferece os modelos Phi-4, que também são muito bem avaliados em termos de eficiência. Basta procurar as versões com o menor número de parâmetros antes da letra "B" (ou aquelas com a palavra "mini" no nome) para encontrar os pacotes que funcionarão melhor com o seu telefone.
Atualmente, esses pequenos modelos de linguagem (SLMs) são principalmente baseados em texto, embora alguns modelos mais recentes, maiores e mais avançados possam analisar imagens e arquivos. Se você quiser criar imagens e vídeos, terá que usar modelos tradicionais de IA baseados em nuvem, pelo menos até que ocorra o próximo salto tecnológico.
Experimentando um Modelo de Linguagem Local Amplo (LLM) no seu celular
Para ver o quão útil um desses modelos nativos de IA poderia ser em um celular, instalei o PocketPal AI e um dos modelos menores do Google, o Gemma, no meu Pixel 9 Pro — que não é mais um celular topo de linha, mas também não é tão antigo. Fiquei impressionado com o pequeno assistente de seleção que o PocketPal AI desbloqueia, que direciona você diretamente para um modelo de IA apropriado para o seu celular.
Depois de baixar e instalar alguns modelos, foi fácil carregá-los e começar a usá-los. O PocketPal AI também oferece acesso a "companheiros" opcionais (daí o nome do aplicativo) que podem personalizar os modelos de IA para seu uso — a opção padrão Pip parece uma alternativa adequada ao que você pode estar acostumado com aplicativos de IA padrão, como Gemini ou Siri . As funções de orientação e acompanhamento funcionam perfeitamente, com seu histórico de bate-papo salvo por padrão.
É possível notar uma lentidão (esperada) nas respostas ao executar modelos LLM no seu celular, e uma clara diferença no tamanho dos modelos de IA — escolher um modelo menor resultará em respostas muito mais rápidas, mesmo que elas não sejam tão inteligentes ou completas. Vale a pena experimentar alguns modelos para encontrar o equilíbrio ideal entre desempenho e velocidade que funcione para você.
Dada a falta de recursos de busca na web ou de conhecimento atualizado, essa opção é ideal para brainstorming, análise e aprimoramento de textos existentes, criação de novos, coleta rápida de informações ou realização de comparações (por exemplo, "Sugira um filme semelhante a..."). Como sempre, é preciso ter cautela com as "alucinações" que esses modelos podem produzir, e nenhuma informação fornecida por IA deve ser considerada garantida como precisa.
Comentários estão fechados.