IA local vs nuvem: para onde vão os seus dados

Você provavelmente usou inteligência artificial local hoje, sem perceber. O corretor de texto, o Face ID que destrava a tela, a busca por “cachorro” nas fotos: tudo isso roda no próprio aparelho. Só que “IA local ou na nuvem” virou papo de privacidade, e quase todo mundo confunde uma coisa com outra. Onde a IA processa não é o mesmo que quem enxerga o seu dado. Este guia separa as duas ideias, mostra quanto custa rodar um modelo no seu computador e ajuda você a decidir por tarefa. Para os fundamentos, o que é um modelo já está em o que são LLMs; aqui o foco é onde ele roda.

Resumo rápido: IA local roda no seu aparelho, e o dado não sai dali. IA na nuvem roda no servidor de uma empresa, e o seu texto viaja até lá. Mas “local” não é automaticamente privado, nem “nuvem” é sempre exposta: a Apple processa parte na nuvem sem acessar seus dados, e apps de IA local podem ter recursos de nuvem opcionais. Um modelo pequeno (3B) roda offline com cerca de 8 GB de memória; os gigantes ainda vivem na nuvem. Decida por tarefa: dado sensível e offline pedem local; capacidade máxima pede nuvem, sabendo o que você entrega.

Qual a diferença entre IA local e IA na nuvem?

A diferença é o lugar onde o modelo roda. Na IA local, o programa processa o seu pedido no próprio celular ou computador, e o texto não sai do aparelho. Na IA na nuvem, o seu pedido viaja pela internet até o servidor de uma empresa, que processa lá e devolve a resposta.

Do lado local estão o Gemini Nano (dentro do Android) e o Apple Intelligence no iPhone. No computador, ferramentas como o Ollama baixam e rodam modelos abertos. Do lado da nuvem estão os nomes famosos: ChatGPT, Gemini na web e Claude. Você digita, o texto sobe, a resposta desce.

Essa viagem até a nuvem não é insegura por si só. O seu texto sobe embaralhado, protegido pelo cadeado do HTTPS, então ninguém no caminho lê o conteúdo. O ponto é outro: no fim da linha, o servidor da empresa precisa desembaralhar o texto para processá-lo. Ou seja, quem opera o serviço vê o que você escreveu. É essa a troca central entre os dois modelos.

A IA local que você já usa sem perceber

IA local não é coisa de especialista com placa de vídeo cara. Ela já está no seu bolso. O reconhecimento facial, o corretor preditivo, a busca por objetos nas fotos e as legendas ao vivo rodam no próprio aparelho. Nada disso sai para fora. É o mesmo princípio, aplicado a tarefas menores.

Agora essa lista ganhou modelos generativos, que criam texto. No Android, o Gemini Nano roda dentro de um serviço chamado AICore. A documentação do Google é direta: ele “executa prompts localmente, eliminando chamadas a servidor” e entrega IA “sem precisar de conexão de rede” (Android Developers). O modelo mora no aparelho.

No iPhone, o Apple Intelligence segue a mesma lógica. Muitas tarefas, como resumir um texto ou criar uma imagem, são processadas no próprio dispositivo, sem coletar os seus dados (Apple). Quando o pedido é simples, ele nem chega a sair do telefone.

Repare no que isso muda. Boa parte da IA que age sobre você todo dia já é local e invisível. A novidade dos últimos anos é que os modelos generativos, antes presos a datacenters, começaram a caber no aparelho. É a mesma diferença entre treinar e usar um modelo: treinar exige um supercomputador, mas usar um modelo pequeno já cabe na sua mão.

IA local é sempre mais privada?

Não automaticamente. Rodar local tende a manter o dado no aparelho, mas essa não é uma garantia mágica. A privacidade real depende de para onde o texto vai, e não apenas de onde ele começa. Dois exemplos quebram a regra simples de “local é privado, nuvem não é”.

O primeiro é a nuvem que protege. A Apple criou o Private Cloud Compute para as tarefas pesadas demais para o iPhone. Segundo a empresa, apenas o dado relevante ao pedido é processado em servidores próprios. E esse dado “não fica acessível a ninguém além do usuário — nem mesmo à Apple” (Apple Security). É nuvem, mas desenhada para não ver o seu conteúdo. Há até uma fronteira criptográfica com a mesma promessa: a criptografia homomórfica deixa o servidor processar o dado sem nunca abri-lo.

O segundo é o “local” que pode vazar. Ferramentas como o Ollama rodam de graça no seu hardware, sem conta e sem enviar nada. Mas várias delas passaram a oferecer recursos de nuvem opcionais, que roteiam o seu pedido pelos servidores da empresa. O modo local continua local; o recurso extra, não. Vale saber qual botão você apertou.

E há o dado de treino, o detalhe que mais pega as pessoas. No ChatGPT de consumidor (gratuito e Plus), o conteúdo das conversas pode ser usado para treinar os modelos, com opção de desativar nas configurações (OpenAI). Planos de empresa e o acesso via programação ficam de fora por padrão. Não é armadilha, é o modelo de negócio, e você controla parte dele, como faz com cookies e rastreadores. A preocupação é comum. Num levantamento da Deloitte com 1.848 profissionais, 2 em cada 5 apontaram privacidade de dados como a principal inquietação com IA generativa (via Cybersecurity Dive). É quase o dobro do 1 em cada 4 que pensava assim em 2023.

Quanto custa rodar um modelo no seu computador?

O custo de IA local é memória e paciência, não mensalidade. Depois de baixar o modelo, ele roda de graça no seu hardware. A conta que importa é de RAM, a memória de trabalho do aparelho. Como regra prática, o tamanho do modelo (medido em bilhões de parâmetros, o “B”) define quanta memória você precisa.

Para este guia, rodei o Llama 3.2 3B — um modelo pequeno e gratuito — no meu próprio computador, usando o Ollama. Em disco, o arquivo ocupa 2 GB. Carregado na memória, com a janela de contexto padrão, subiu para cerca de 6 GB. Foi tudo local: depois do download, a resposta é gerada no aparelho, sem enviar o texto a servidor nenhum.

A velocidade surpreende. Na minha placa de vídeo, uma RTX 3090, o modelo gerou cerca de 246 tokens (pedaços de palavra) por segundo. É rápido demais para acompanhar lendo. Aí forcei o mesmo modelo a rodar só no processador, sem usar a placa: caiu para cerca de 27 por segundo. Ainda assim, mais rápido do que a maioria das pessoas lê.

Um aviso honesto: a RTX 3090 não é um notebook comum. Por isso mostrei também o número só de processador, que é o piso realista para quem não tem placa dedicada. Fica mais devagar, mas funciona. Rodar um modelo é a etapa de usar a IA (a inferência), bem mais leve do que treinar. O gráfico abaixo mostra a memória recomendada por porte de modelo.

Quando a nuvem ainda vale mais a pena

A nuvem vence em capacidade bruta. Os modelos de ponta, com centenas de bilhões de parâmetros, simplesmente não cabem num celular ou num notebook comum. Rodá-los exige racks de servidores com placas de vídeo caríssimas. É por isso que o ChatGPT ou o Gemini na web respondem com uma profundidade que o seu aparelho sozinho não alcança.

O ganho vem em três frentes. A qualidade é maior, porque o modelo é muito maior. A velocidade é alta mesmo em pedidos complexos, já que o servidor tem folga de sobra. E não pesa no seu aparelho: a bateria e a memória do celular ficam livres. O preço dessa conveniência é conhecido: o seu texto vai para fora.

Há também o fator manutenção. Na nuvem, o modelo é sempre a versão mais nova, sem você baixar nada. Localmente, atualizar é com você. Para tarefas que exigem o melhor raciocínio ou geração de imagem pesada, a nuvem ainda é a escolha natural. A tabela abaixo resume o troca-troca entre os dois lados.

O que importa	IA local	IA na nuvem
Para onde vai o dado	Fica no aparelho	Viaja até o servidor da empresa
Custo	Grátis após baixar	Grátis ou assinatura, conforme o uso
Porte do modelo	Pequeno a médio	Os maiores do mundo
Funciona offline	Sim	Não
Velocidade	Depende do seu hardware	Alta e constante
Esforço para começar	Instalar e baixar o modelo	Abrir o site e usar

Como escolher entre IA local e nuvem?

Decida por tarefa, não por ideologia. Não existe um lado sempre melhor. A pergunta certa é sobre o pedido específico que você tem em mãos: o dado é sensível? Precisa funcionar sem internet? Um modelo pequeno resolve? As respostas apontam o caminho. Na maioria dos casos, o uso acaba sendo híbrido.

O híbrido costuma ser o mais sensato no dia a dia. Um modelo local dá conta de resumir, reescrever e organizar textos comuns, sem que nada saia do aparelho. Quando aparece o pedido difícil, você recorre à nuvem, ciente de que o dado sobe. É a mesma lógica de proteger o arquivo em repouso no disco: você separa o que é sensível do que é banal.

IA local ou na nuvem: o mapa da decisão em 3 perguntas

Guarde estas três e o resto é detalhe:

• O dado é sensível? Se você não entregaria aquele texto a um estranho, prefira o modelo local, onde nada sai do aparelho;
• Precisa funcionar offline? Sem internet, só a IA local responde. Depois de baixado, o modelo roda sozinho no seu hardware;
• Um modelo pequeno resolve a tarefa? Se sim, o local basta e é grátis. Se o pedido exige o melhor raciocínio, a nuvem entrega mais, com o seu dado indo até lá.

No fim, “onde processa” e “quem vê” são perguntas diferentes. É por isso que existe nuvem privada e “local” com recurso de nuvem. Decida caso a caso. A trilha de Inteligência Artificial segue depois desta parada. Para a base, comece pelo pilar o que é machine learning. E para ver outra comparação, veja IA generativa vs. IA analítica.

Perguntas frequentes

IA local funciona sem internet?

Sim. Depois de baixar o modelo uma vez, ele roda no seu aparelho sem conexão. Essa é a principal vantagem do modelo local: nada precisa sair para a rede. Só o download inicial exige internet. Foi assim no meu teste com o Ollama: a resposta foi gerada localmente, sem enviar o texto a nenhum servidor.

Preciso de uma placa de vídeo cara para rodar IA local?

Não para modelos pequenos. Um notebook com 8 a 16 GB de memória roda modelos de 3 a 7 bilhões de parâmetros pelo Ollama. Uma placa de vídeo acelera bastante, mas um modelo de 3B roda até só no processador, com paciência. No meu teste, gerou cerca de 27 tokens por segundo sem placa.

Meus dados no ChatGPT são usados para treinar a IA?

No plano de consumidor (gratuito e Plus), o conteúdo das conversas pode ser usado para treinar os modelos, com opção de desativar nas configurações. Planos de empresa e o acesso via programação ficam de fora por padrão, segundo a OpenAI. Vale revisar as configurações de privacidade da sua conta.

Qual IA local é melhor para começar?

O Ollama é o caminho mais simples no computador. Um único comando baixa e roda modelos abertos como o Llama 3.2 ou o Mistral. Comece por um modelo de 3 bilhões de parâmetros, que roda na maioria dos notebooks. No celular, o Gemini Nano e o Apple Intelligence já vêm embutidos no sistema.