Gimlet Labs融资3亿美元：AI推理开始跨芯片拆分任务

Bloomberg News的独立报道 确认，AI基础设施公司Gimlet Labs于2026年9月4日完成3亿美元融资，估值达到30亿美元，由Andreessen Horowitz领投；Arm与微软旗下风险投资部门M12是新投资方。

Gimlet Labs的B轮公告 将本轮交易定性为3亿美元B轮融资，并列出Sapphire Ventures、Menlo Ventures、645 Ventures、Arm、M12、Samsung Ventures和Tiger Global Management等参与方。公告同时给出三组尚待外部验证的经营数据：自2026年3月以来新增数十亿美元已签约收入、形成吉瓦级数据中心项目管线，并正把受管理容量扩大到数百兆瓦；其性能口径包括前沿工作负载快3至10倍，以及相同功耗下加速5至10倍或在相近延迟下取得相近幅度的吞吐提升。

3亿美元押注的是多芯片推理云

Gimlet Labs并非要设计一种包办所有推理工作的处理器。它的商业主张是把GPU、CPU、近存计算设备、数据流架构和其他专用加速器组织成资源池，再根据模型结构、服务目标和硬件余量分配工作。

Andreessen Horowitz的投资说明 描述了这套系统的三层结构：先为工作负载制定兼顾延迟、吞吐量与成本的执行计划，再由编译器针对目标硬件优化各部分，最后由运行时协调跨设备执行；开发者面对的是统一的推理API。投资方材料可以解释其下注逻辑和产品定位，但不能代替独立性能测试。

因此，标题中的“跨芯片拆分任务”有明确边界：它是Gimlet Labs正在商业化和扩建的技术路线，不代表整个AI推理行业已经转向异构拆分。竞争单位也不再只是单颗芯片，而是覆盖编译、调度、网络、供电、散热和容量交付的完整系统。

一次推理请求如何跨芯片拆分

大模型生成回答通常可以分为两个性质不同的阶段。预填充（prefill）读取并处理整段输入上下文，计算密集且适合并行执行；解码（decode）逐个生成后续令牌，更容易受内存容量、内存带宽和数据搬运效率约束。同一个模型的两个阶段，未必适合同一种处理器。

在预填充与解码分离的配置中，第一组设备处理输入并产生中间状态，这些数据再经数据中心网络送到第二组设备，由后者继续逐令牌生成。调度器还要决定实例数量、排队方式和批处理规模，并判断阶段内获得的效率能否抵消跨设备传输增加的时间。

拆分还可以深入到推测解码与主解码，或把注意力计算与前馈网络分配给不同设备。模型结构、上下文长度、并发量、服务等级目标和现有硬件余量都会改变最合适的拆分方式；网络、同步或数据复制过慢，则可能吃掉专用芯片带来的收益。

高吞吐与低延迟为何难以兼得

吞吐量衡量单位时间内完成多少请求或生成多少令牌，延迟衡量单个请求要等待多久。扩大批处理通常能提高芯片利用率和总体产出，却可能让已经到达的请求等待批次凑齐；缩小批次有利于交互响应，但更容易留下闲置算力。

异构硬件进一步加入传输、同步和故障恢复成本。某个阶段在专用加速器上更快，并不意味着端到端请求一定更快：中间状态过大、设备距离较远或网络拥塞时，数据移动会成为新的瓶颈。

离线批处理可以接受较长的单次等待，以换取更高的总体产量；语音交互或多步骤智能体则更在意首个令牌和连续调用的等待时间。即使使用同一模型，两类负载需要的设备组合、批量大小和拆分粒度也可能不同。Gimlet Labs试图通过动态调度管理这种取舍，而不是消除取舍本身。

性能倍数和商业规模仍待外部验证

前述“3至10倍”和“5至10倍”不能直接合并为一项通用基准。前者限定于其推理云中的前沿工作负载，后者分别比较相同功耗下的速度和相近延迟下的吞吐量；目前公开材料没有完整交代模型、硬件组合、批量设置、网络条件、对照系统和成本构成。

这些缺失条件意味着，相关倍数不能外推到任意模型或芯片组合。外部也尚无可复现测试足以判断收益有多少来自计算架构、编译优化、调度策略、网络设计或整体设施配置。

数十亿美元已签约收入、吉瓦级项目管线和数百兆瓦受管理容量同样代表不同阶段。已签约收入不等于依照会计规则确认的收入，项目管线不等于已经建成并通电的容量，扩容进程也不等于当前运营规模。合同履行周期、取消条款、客户集中度，以及管线中已有多少项目取得电力、土地和设备保障，目前均未见具体数据。

融资已经落定，交付能力成为下一道检验

目前最确定的是交易本身：Gimlet Labs获得3亿美元B轮融资，估值达到30亿美元，Andreessen Horowitz领投，Arm与M12成为新投资方。公司要扩张的是一套跨GPU、CPU和专用加速器拆分并调度AI推理的基础设施，而非单一新芯片。

下一阶段需要观察的是可复现的基准配置、第三方测试、真正投入运行的受管理容量，以及合同转化为确认收入的进度。在这些信息出现前，融资额、估值和主要投资方已有相互印证；性能倍数、合同规模与数据中心管线则仍缺少独立测试或审计材料支撑。