Startup francesa ZML lança software gratuito para rodar IA em qualquer chip – Nvidia, AMD, TPU e Apple Metal

A startup francesa ZML, apoiada pelo renomado pesquisador Yann LeCun, acaba de disponibilizar gratuitamente o ZML/LLMD, um software de inferência que promete acelerar modelos de linguagem de código aberto nos principais chips de IA do mercado – incluindo Nvidia, AMD, Google TPU e Apple Metal. A ferramenta visa quebrar os silos de hardware que forçam desenvolvedores a escolher um único ecossistema, permitindo que diferentes arquiteturas rodem na velocidade máxima disponível.

Por que a ZML apostou em compatibilidade entre chips para IA?

Até hoje, a grande maioria dos softwares de inferência para modelos de linguagem é otimizada exclusivamente para GPUs Nvidia, deixando alternativas como AMD, Google TPU e Apple Metal com desempenho muito abaixo do potencial. Essa dependência cria um gargalo de custo e disponibilidade, além de limitar a competição no mercado de hardware. A ZML, startup francesa fundada por ex-engenheiros do Google e da Apple, decidiu atacar exatamente esse problema: criar uma camada de software que permita que qualquer modelo de código aberto rode com máxima eficiência em qualquer chip moderno.

Como o software de inferência ZML/LLMD funciona na prática?

O ZML/LLMD utiliza uma camada de abstração que traduz dinamicamente as instruções do modelo de linguagem para a arquitetura nativa de cada chip, aplicando otimizações específicas de hardware sem exigir recompilação manual. Segundo a empresa, em testes internos a ferramenta atinge 95% da performance nativa em GPUs AMD e 90% em Google TPU, com latência reduzida em até 40% em comparação a soluções alternativas. O software é open-source e pode ser baixado gratuitamente, o que democratiza o acesso a hardware variado. A notícia foi divulgada pelo TechCrunch, que destaca o potencial da ferramenta para mudar o cenário de inferência de IA.

O impacto do software gratuito de inferência no mercado de IA

A iniciativa da ZML reduz a dependência de um único fornecedor de hardware, permitindo que startups e empresas de médio porte escolham chips com melhor custo-benefício sem sacrificar desempenho. Além disso, ao suportar Apple Metal, o software abre caminho para que desenvolvedores utilizem MacBooks e outros dispositivos Apple como plataformas viáveis de inferência local. Enquanto gigantes como Microsoft investem bilhões em infraestrutura dedicada, como em seu investimento de US$ 19 bilhões no Canadá, a ZML aposta em uma abordagem mais enxuta e aberta, que pode acelerar a adoção de IA em mercados emergentes e projetos de pesquisa com orçamento limitado.

Perguntas Frequentes sobre o software de inferência ZML/LLMD

O ZML/LLMD é realmente gratuito?

Sim, o software é open-source e pode ser baixado gratuitamente, sem custos de licenciamento ou taxas por uso.

Quais modelos de linguagem são compatíveis?

A ferramenta suporta modelos de código aberto como Llama, Mistral e Falcon, com planos de adicionar suporte a outros no futuro.

Preciso de um chip específico para usar?

Não. O ZML/LLMD funciona em qualquer chip compatível, desde que o hardware tenha suporte mínimo para execução de modelos de linguagem.