A corrida da IA troca modelos gigantes por sistemas inteligentes e baratos

A corrida por modelos de inteligência artificial cada vez maiores está dando lugar a uma nova estratégia: sistemas inteligentes que escolhem o modelo mais adequado e barato para cada tarefa. O CEO da Perplexity, Aravind Srinivas, afirmou em entrevista à CNBC que "o verdadeiro produto é o sistema que decide qual modelo usar", enquanto o investidor Peter Fenton, da Benchmark, prevê que modelos de peso aberto em breve atenderão à maioria dos usos empresariais. Essa mudança pressiona a economia dos maiores provedores e abre espaço para soluções mais acessíveis.

Por que a corrida da IA migra para sistemas inteligentes e baratos?

Construir modelos gigantes como o GPT-4 ou o Gemini Ultra custa centenas de milhões de dólares e consome energia equivalente a uma pequena cidade. A estratégia de usar um único modelo para tudo também é ineficiente: tarefas simples como resumir um e-mail não precisam de todo o poder computacional de um modelo de fronteira. A Perplexity, por exemplo, opera um sistema de roteamento que seleciona dinamicamente entre modelos internos, APIs externas e modelos de peso aberto, combinando desempenho e custo. Srinivas compara isso a um "orquestrador de modelos" — a inteligência está no roteador, não no motor.

Como modelos de peso aberto criam sistemas inteligentes e baratos?

Modelos como Llama 3 (Meta), Mistral (francês) e os lançamentos da comunidade open-weight já competem de perto com soluções proprietárias em benchmarks de linguagem, raciocínio e codificação. Fenton acredita que, em breve, a abertura e o custo reduzido desses modelos vão torná-los a escolha padrão para a maioria dos casos de uso. Como o CEO do Hugging Face já havia apontado, empresas estão trocando APIs caras por código aberto, reduzindo em até 80% os custos operacionais.

O que sistemas inteligentes e baratos significam para o Brasil?

Para startups e médias empresas no Brasil, a tendência é uma lufada de ar fresco. Em vez de depender de APIs caras em dólar, é possível rodar modelos locais em português com hardware modesto, graças a técnicas como quantização e fine-tuning eficiente. A soberania de dados também ganha importância: com modelos abertos, empresas podem treinar com dados sensíveis sem enviá-los para servidores nos EUA. A competição deixa de ser "quem tem o melhor modelo" e passa a ser "quem constrói o melhor sistema de orquestração" — uma arena mais justa para times enxutos.

A economia de provedores de IA com sistemas inteligentes e baratos?

A mudança de paradigma mexe diretamente com o modelo de negócios de empresas como OpenAI e Anthropic. Elas lucram com tokens vendidos (cobrança por uso). Se sistemas de roteamento passarem a preferir modelos de peso aberto sempre que possível, a receita por consulta despenca. A resposta tem sido a criação de camadas de assinatura premium (como o ChatGPT Plus) e contratos enterprise com garantias de preço fixo. Mas a pressão por barateamento já é visível: no último ano, o custo por token de modelos como o GPT-4 caiu cerca de 60%, segundo dados da própria CNBC.

Perguntas Frequentes sobre sistemas inteligentes e baratos de IA

O que é um sistema de roteamento de modelos?

É um software que analisa a pergunta do usuário e decide qual modelo de IA — entre vários disponíveis — deve processá-la, equilibrando qualidade, velocidade e custo.

Modelos de peso aberto são tão bons quanto os proprietários?

Em muitos benchmarks, modelos como Llama 3 70B e Mistral Large já igualam ou superam versões anteriores do GPT, especialmente em tarefas de raciocínio e código. A diferença para os maiores modelos proprietários está diminuindo rapidamente.

Como essa mudança afeta quem já usa APIs pagas?

A tendência é que provedores reduzam preços para competir com modelos abertos, e que surjam serviços híbridos que combinam APIs com modelos locais. Para empresas, é o momento de avaliar custos e explorar fine-tuning de modelos abertos como alternativa.

> Fonte: CNBC – The AI race is shifting from bigger models to cheaper, smarter systems