Fato verificado
Segundo reportagem do TechCrunch de 17 de setembro de 2026, a PrismML lançou o Bonsai 2 27B, versão comprimida do modelo Qwen3.8 27B, da Alibaba, reduzida a 5,9 gigabytes — uma redução de 9 a 10 vezes no requisito de memória. A empresa afirma que o modelo mantém 98% de paridade em benchmarks com o original, contra 95% na primeira versão do Bonsai. A técnica usa pesos ternários, que substituem valores de 16 bits por apenas três estados: mais um, menos um e zero. A companhia informa que o Bonsai original foi baixado mais de 11 milhões de vezes e que as variantes menores somam 2,6 milhões de downloads. A PrismML captou US$ 22,25 milhões em rodada semente, com Khosla Ventures, Cerberus Capital e Caltech. É liderada por Babak Hassibi, professor do Caltech e especialista em compressão, que afirmou que ‘à medida que o tamanho do modelo cresce, há mais espaço para comprimi-lo sem perder inteligência’. Ion Stoica, cofundador da Databricks e diretor do Sky Computing Lab de Berkeley, atua como conselheiro e destacou que rodar localmente mantém os dados no próprio dispositivo. Os resultados de benchmark citados são informados pela empresa, sem validação independente na reportagem.
Por que importa
Modelo de porte corporativo rodando em 5,9 gigabytes significa IA útil funcionando no computador da própria empresa, sem mensalidade por uso e sem enviar dado de cliente para fora.
Leitura estratégica
Para quem administra uma empresa pequena ou média, esta é a notícia da semana com efeito mais direto. A barreira para usar IA em dado sensível — cadastro de cliente, histórico de atendimento, contrato — nunca foi técnica, foi de confidencialidade e de custo recorrente. Um modelo que roda na máquina local ataca as duas coisas ao mesmo tempo. Na prática, isso não substitui os modelos grandes nas tarefas mais difíceis, mas cobre bem tarefas repetitivas de texto, classificação e busca interna. Vale a precisão: 98% de paridade é número informado pela empresa, benchmark não é operação real, e desempenho em teste padronizado não garante desempenho no seu processo. Resultado, aqui como em qualquer ferramenta, depende de aplicar em um problema que você conhece bem.
Risco real
Rodar IA internamente transfere para a empresa a responsabilidade por atualização, segurança e conferência das respostas — trabalho que, no modelo em nuvem, está embutido no serviço contratado.
Possibilidade prática
Antes de qualquer investimento, o teste que custa pouco: separar uma tarefa repetitiva de texto da sua operação — triagem de e-mail, padronização de descrição, resumo de atendimento — e medir quanto tempo ela consome hoje. Esse número é o que torna possível avaliar se vale rodar localmente, contratar nuvem ou não fazer nada.
Fonte: TechCrunch.