EmbeddingGemma 2 corta a RAM dos vetores em 30 vezes sem perder 1%

Em 6 de outubro de 2026, o teste publicado pela Qdrant mostrou que vetores de texto do EmbeddingGemma 2 com 768 dimensões, comprimidos com quantização de 1 bit, usaram cerca de 30 vezes menos RAM e preservaram 99% da qualidade de recuperação. A perda, próxima de 1% na métrica usada, foi medida em cinco conjuntos de busca textual. A economia se refere aos vetores guardados no índice, não à memória total necessária para executar o modelo ou o serviço de busca.

O anúncio do Google DeepMind, publicado também em 6 de outubro de 2026, apresentou o EmbeddingGemma 2 como modelo aberto capaz de representar texto, código, imagem, vídeo e áudio no mesmo espaço vetorial. A versão completa reúne 740 milhões de parâmetros; para cargas apenas textuais, os codificadores de imagem e áudio podem ser dispensados, deixando 270 milhões. Essa escolha reduz os pesos carregados para gerar vetores. A compressão avaliada no teste atua depois, na forma como os vetores produzidos são armazenados para consulta.

De onde saem as 30 vezes menos RAM

A referência do ensaio é uma busca exata com vetores completos em float32. Cada vetor de 768 dimensões ocupa 3.072 bytes nessa representação e 104 bytes quando preserva as dimensões, mas usa TurboQuant de 1 bit. A relação entre os dois tamanhos fica perto de 30 para 1. Em um acervo de dez milhões de documentos, a projeção cai de 30,7 GB para aproximadamente 1 GB apenas para os vetores; é uma conta de capacidade, não a medição do consumo de um aplicativo inteiro.

O cálculo exclui índices em grafo, dados associados a cada documento e eventuais vetores originais conservados para reclassificar resultados. Também não soma a memória dos pesos do EmbeddingGemma 2 enquanto o sistema gera representações de novos textos ou consultas. Por isso, um serviço de RAG pode economizar substancialmente na coleção vetorial e ainda precisar de memória adicional para o restante da operação. A parcela ocupada por vetores aumenta com o número de documentos, enquanto o tamanho dos pesos do modelo depende dos módulos carregados.

A qualidade foi comparada pela média da retenção de nDCG@10 em SciFact, NFCorpus, ArguAna, SCIDOCS e FiQA, cinco conjuntos de recuperação textual da coleção BEIR. A métrica recompensa resultados relevantes próximos do topo da lista. Preservar 99% aqui significa conservar aproximadamente essa fração da pontuação obtida pela busca exata de referência; não significa que cada consulta devolveu a mesma seleção de documentos. O resultado pertence à combinação entre os vetores do modelo, a quantização TurboQuant e a busca na Qdrant.

O ranking pode ser bom com vizinhos diferentes

O teste separado com o conjunto Quora torna visível a diferença entre qualidade de ranking e coincidência de resultados. Em 523 mil documentos, os vetores completos quantizados em 1 bit retiveram 99,0% da qualidade de recuperação, mas cerca de 74% dos dez primeiros vizinhos eram os mesmos da busca exata. Nessa configuração, o tempo de consulta ficou abaixo da metade do registrado com float32. Trata-se de uma observação naquele conjunto e naquele índice, não de uma promessa de latência para outros acervos.

Essa diferença interessa a sistemas de busca e RAG de maneiras distintas. Se documentos relevantes trocam de posição ou um resultado dá lugar a outro igualmente útil, o nDCG@10 pode variar pouco; uma aplicação que depende de recuperar um registro específico pode sentir a troca. A taxa de vizinhos idênticos captura parte desse efeito que a retenção de qualidade não expressa sozinha. Os dois indicadores descrevem aspectos diferentes do resultado entregue ao usuário.

Há outra configuração no ensaio: truncar os vetores para 256 dimensões e quantizá-los em 1 bit reduz cada representação a 40 bytes, cerca de 77 vezes menos RAM de vetores que a referência. Com reclassificação, ela reteve 94,5% do nDCG@10; sem reclassificação, 88,1%. Nessa etapa, a busca recupera 40 candidatos para entregar dez resultados e usa os vetores originais para ordená-los novamente. A melhora de qualidade traz o custo de armazenar e ler esses originais, que ficou fora da comparação de RAM dos vetores comprimidos.

As métricas do modelo mudam conforme a modalidade

A ficha técnica do EmbeddingGemma 2 registra saída nativa de 768 dimensões, truncável para 512, 256 ou 128, e resultados separados para texto, código, imagem, vídeo e áudio. Com o modelo em precisão integral, a pontuação é 61,36 no MTEB multilíngue e 78,68 no MTEB de código. Para vídeo, o MMEB v2 registra 50,67 em Hit@1; para áudio, o MSEB de recuperação registra 69,54 em MRR@10. Essas escalas e tarefas diferem da retenção de nDCG@10 calculada no teste de busca textual.

O truncamento também não afeta as modalidades de forma uniforme. No MTEB multilíngue, a pontuação passa de 61,36 com 768 dimensões para 60,41 com 256 e 57,89 com 128. No resultado geral do MMEB v2, a sequência correspondente é 59,01, 56,24 e 45,65. O recorte de 128 dimensões, portanto, tem uma queda multimodal maior e é indicado sobretudo para cargas apenas textuais. Esses valores vêm dos testes oficiais com vetores em precisão integral; não medem a qualidade da quantização de 1 bit da Qdrant.

Manter menos dimensões e usar menos bits por dimensão são decisões diferentes. O modelo foi treinado para que o começo de cada vetor continue útil quando o restante é cortado; a quantização troca a precisão numérica de cada posição armazenada. Na comparação da Qdrant com orçamento de memória parecido, 512 dimensões em 1 bit ocuparam 72 bytes por vetor e preservaram 97,3% da qualidade, enquanto 128 dimensões em 4 bits preservaram 84,0%. Consultas e documentos precisam ter o mesmo comprimento vetorial; após truncar, também é preciso normalizar novamente as representações antes da comparação por similaridade de cosseno.

O que muda para a busca local

Para uma coleção textual local, a configuração que produziu o resultado principal mantém todas as dimensões e comprime cada uma delas. Isso preserva mais informação da representação original do que simplesmente cortar o vetor, ao custo de depender do método de quantização usado no índice. Uma instalação que só processa texto pode, separadamente, carregar a parte textual do EmbeddingGemma 2. A primeira escolha altera o espaço do acervo; a segunda altera o tamanho do modelo em execução. Somá-las como se fossem uma única economia de RAM produziria uma estimativa enganosa.

A medição externa cobre textos nos conjuntos citados e não apresenta uma retenção equivalente para busca por imagem, vídeo ou áudio. Também não isola um corpus de português brasileiro. Para sistemas locais em português, o dado concreto é a possibilidade de reduzir fortemente a memória dos vetores sem uma queda proporcional na pontuação média de busca textual; a relevância de documentos específicos, a coincidência de vizinhos e a memória total do serviço continuam dependentes do acervo e da configuração efetiva do índice.

Leia também:

• Infineon compra a C2i para atacar o novo gargalo elétrico dos data centers de IA
• Barclays levará Claude Code a metade dos desenvolvedores ainda em 2026
• Koa promete três vezes menos erros — ainda perde para modelos de fronteira