Subquadratic 在 Quasa 上的评测：首个次二次复杂度 LLM

#Quasa #QUA #subquadratic

Subquadratic 是一家前沿 AI 研究与基础设施公司，致力于构建一类全新的大型语言模型。其旗舰模型 SubQ 是首个基于完全次二次复杂度稀疏注意力架构构建的 LLM。传统 Transformer 的计算开销随上下文长度呈二次增长（$O(n^2)$），而 SubQ 则呈线性增长（$O(n)$），让数百万 token 规模的推理变得切实可行且高效。

SubQ 专为长上下文任务设计。它可以在单个提示中处理整个代码仓库、冗长的智能体历史记录、数月的拉取请求以及持久化状态，而不会降低质量。该模型目前支持高达 12 million tokens 的上下文窗口，在长上下文检索和通用推理基准测试中均表现出色。在 1 million tokens 的上下文长度下，SubQ 所需的计算量大幅减少（据称密集注意力所需计算量为其 64.5×），运行速度也显著快于标准注意力机制。

该公司秉持“效率即智能”的理念。通过在架构层面解决二次复杂度瓶颈，Subquadratic 旨在推动新一代 AI 智能体的发展，使其能够真正利用大量上下文开展工作，而无需依赖分块、摘要或检索方面的变通手段。

Subquadratic 非常适合需要可靠长上下文推理能力的开发者、编程智能体、企业团队和研究人员，尤其适用于整个代码库分析、长期运行的智能体以及复杂的多文档任务。

亮点

• 首个完全次二次复杂度（线性扩展）的 LLM 架构。
• 数百万 token 规模的上下文（最高支持 12M tokens）。
• 强大的长上下文检索能力，同时具备高效率。
• 专为完整代码仓库和持久化智能体状态设计。
• 兼容 OpenAI 的 API，并支持编程智能体集成。

• 需要考虑的因素

• 作为前沿研究模型，其生态系统的覆盖范围和不同规模的模型版本仍在持续扩展。
• 更适合长上下文应用场景，而非一般的短提示聊天。

总体评价：4.7/5 星

Subquadratic 正在解决当前 LLM 最重要的局限之一，即注意力机制的二次计算成本。SubQ 以低得多的计算量实现了实用的数百万 token 规模推理，为智能体和长上下文应用带来了有意义的架构进步。

也来 Quasa.io 撰写评测，赚取 QUA 奖励！

开始使用： https://quasa.io/projects/subquadratic