Fractile — Análise na Quasa: Chips de Nova Geração para Inferência de IA

#Quasa #QUA #fractile

Fractile é uma empresa de tecnologia avançada sediada no Reino Unido que desenvolve processadores especializados concebidos para acelerar radicalmente a inferência de modelos de fronteira. A sua principal inovação consiste em intercalar fisicamente a memória e a computação no mesmo silício — uma arquitetura que supera a separação tradicional entre memória e processamento que atualmente limita tanto a velocidade como o custo da inferência de grandes modelos de linguagem.

Ao adotar uma abordagem que abrange toda a infraestrutura tecnológica (desde a conceção ao nível dos transístores até ao software de inferência na nuvem), a Fractile pretende oferecer simultaneamente baixa latência e elevada capacidade de processamento. A empresa afirma que os seus processadores conseguem executar os modelos mais avançados até 25× mais depressa e a aproximadamente 1/10th do custo das soluções existentes, disponibilizando de forma eficiente milhares de tokens por segundo a milhares de utilizadores em simultâneo.

Espera-se que esta melhoria de desempenho permita não só otimizar as implementações atuais, mas também abrir novas possibilidades: janelas de contexto significativamente mais longas e tarefas autónomas complexas (como investigação ou desenvolvimento de software em grande escala) que hoje exigem dias de trabalho humano poderão ser concluídas em minutos.

A Fractile angariou $220 milhões junto de investidores que incluem a Accel, a Factorial Funds e o Founders Fund de Peter Thiel. A equipa trabalha em Bristol e Londres e reúne conhecimentos aprofundados de hardware, software e sistemas de IA.

A Fractile é ideal para laboratórios de IA, fornecedores de serviços na nuvem e empresas que precisam de inferência de modelos de fronteira em grande escala, com uma velocidade muito superior e custos muito inferiores.

Destaques

• Arquitetura inovadora com memória e computação intercaladas.
• Inferência até 25× mais rápida, segundo a empresa, a ~1/10th do custo.
• Concebida para oferecer simultaneamente baixa latência e elevada capacidade de processamento.
• Desenvolvimento de toda a infraestrutura tecnológica, do silício ao software.
• Financiamento sólido e equipa técnica experiente.

• Possíveis aspetos a considerar

• O hardware ainda está em desenvolvimento (os chips comerciais estão previstos para mais tarde).
• Os valores de desempenho atuais baseiam-se em resultados internos e simulações.
• Mais relevante para organizações que planeiam infraestruturas de inferência em grande escala.

Avaliação global: 4.6/5 estrelas

A Fractile está a procurar resolver um dos estrangulamentos mais críticos da IA moderna — o custo elevado e a velocidade limitada da inferência de modelos de fronteira. Ao reformular a relação entre memória e computação ao nível do silício, a empresa tem potencial para alterar significativamente os custos de execução de modelos avançados de IA.

Ganhe também uma recompensa em QUA ao publicar uma avaliação na Quasa.io!

Comece aqui: https://quasa.io/projects/fractile