テクノロジー・イノベーション

Gimlet Labsが3億ドル調達、AI推論は「単一チップ」から混成へ

|著者: QUASA編集チーム|2 分で読めます
Gimlet Labsが3億ドル調達、AI推論は「単一チップ」から混成へ

AI推論基盤を開発するGimlet Labsは2026年9月4日、Andreessen Horowitz主導のシリーズBで3億ドルを調達した。SiliconANGLEの報道 によると、調達後の評価額は30億ドル、外部からの累計調達額は3億9,200万ドルとなった。

資金調達の焦点は、同じ種類のGPUを増やすことではなく、LLMの推論処理を分割して性質の異なる計算資源へ割り当てる基盤の拡張にある。Bloomberg Newsの取材 でも、3億ドルの調達と30億ドルの評価額、a16zによる主導、ArmとMicrosoftのベンチャー部門M12の新規参加が確認されている。

3億ドルが支えるマルチシリコン基盤

今回のラウンドには、Sapphire Ventures、Menlo Ventures、645 Ventures、Arm、Eclipse、Emergence、Factory、Hudson River Trading、M12、Samsung Ventures、Tiger Global Managementなどが参加した。半導体企業と大手テクノロジー企業の投資部門が名を連ねたことは、資金の対象がモデル開発だけでなく、チップをまたぐ実行基盤とデータセンター運用に及ぶことを示している。

Gimlet Labsの公式発表 は、資金をマルチシリコン・クラウドの運用拡大と人員増強に充て、管理対象の容量を数百メガワット規模へ広げていると説明する。同社はGPU、CPU、ニアメモリー・コンピュート、データフロー型アクセラレーターを一つの推論基盤で扱う構想を掲げている。

評価額30億ドルと累計調達額3億9,200万ドルは、事業の将来性に対する投資判断を表す数字であり、技術性能を直接証明するものではない。調達規模、製品の設計思想、実測性能は分けて評価する必要がある。

LLMを分け、工程に合うチップへ配置する

Gimlet Labsの推論基盤で、LLMのプリフィルとデコードが特性の異なる計算資源へ分けて配置される様子

Gimlet Labsの設計は、LLMの推論を一枚岩の処理として扱わない。入力された文脈をまとめて処理するプリフィルは演算能力への依存が大きく、回答を一トークンずつ生成するデコードはメモリー帯域の影響を受けやすい。両工程を異なる装置へ置けば、それぞれの特性に合う計算資源を選べる。

同社のソフトウェアはモデルを追跡して複数の部分に分解し、要求される遅延や処理量、利用可能なハードウェアに応じて配置先を決める。ある種類の装置が混雑した場合には、対応可能な別の資源も使って処理能力が遊休化する状態を抑えるという。

ここでいう「単一チップ」からの転換は、一つの物理チップだけでモデル全体を動かす方式との比較ではない。従来の大規模基盤も多数のGPUを接続するが、同種または同系列のアクセラレーターを中心に構成することが多い。Gimlet Labsが打ち出す違いは、複数台を使うこと自体ではなく、異なる設計の半導体を混在させ、モデル内部の工程単位で仕事を割り振る点にある。

処理は「分解・配置・再調整」で進む

マルチシリコン推論の流れは、概念的には次のように整理できる。利用者が処理ごとにチップを選び続けるのではなく、制御ソフトウェアがモデル、要求条件、空き資源を照合することが中核となる。

  1. モデルを解析する。 演算グラフを追跡し、プリフィル、デコード、アテンション、フィードフォワードネットワークなど、性質の異なる部分を識別する。
  2. 実行条件を照合する。 応答時間、処理量、利用可能な装置といった条件から、各部分の配置先を判断する。
  3. 異種チップへ配置する。 演算負荷の高い工程とメモリー帯域を多く使う工程を、異なる強みを持つ装置で実行する。
  4. 稼働状況に応じて再調整する。 特定の資源が埋まれば、利用できる別のハードウェアにも処理を振り分ける。

分割方法はプリフィルとデコードの二分割に限られない。軽量モデルが候補を生成し、より大きなモデルが検証する投機的デコードや、アテンションとフィードフォワードネットワークを別々に実行する構成も想定されている。

ただし、分割を細かくすれば必ず速くなるわけではない。装置間で中間データを転送する時間、ネットワーク帯域、同期の待ち時間、異なるソフトウェア環境を維持する運用負荷が増えるためだ。適材適所による改善が、分割に伴う通信と制御のコストを上回ることが実用化の条件になる。

最大10倍という主張には比較条件が足りない

Gimlet Labsの異種チップ推論について、電力・遅延・処理量・通信負荷を同一条件で測定する検証工程

Gimlet Labsは、異種アクセラレーターへの分割によって、同じ電力枠では5~10倍の高速化、または同じ遅延条件では同程度の処理量改善が可能だとしている。別の表現では、同社クラウド上の先端モデル向け構成について3~10倍の性能向上を掲げており、数値の対象と比較条件は同一ではない。

これらは現時点では会社側の測定と説明である。今回確認できた公開資料には、独立機関が同一モデル、同一精度、同一消費電力、同一遅延条件で追試した結果や、構成別の詳細な測定データは示されていない。したがって「AI推論が一般に最大10倍速くなる」という確定値には置き換えられない。

性能はモデルの構造、入力と出力の長さ、バッチサイズ、使用するチップ、装置間接続によって変わる。比較対象となる均質な基盤の最適化水準に加え、ネットワークと待機電力を含むシステム全体の消費電力、同等の出力品質を維持できるかも確認が必要だ。

9月4日の発表で確定したのは、3億ドルのシリーズB、30億ドルの評価額、3億9,200万ドルの累計調達額と、異種チップを束ねる推論基盤の拡張方針である。今後の判断材料は、対応モデルと半導体の具体的な範囲、料金と提供規模、そして第三者が再現できる条件を備えた比較測定となる。

共有:

ニュースレターを購読

Web3、AI、暗号資産の最新ニュースを受信箱にお届けします。

0