cat posts/%e4%bb%8a%e9%80%b1%e3%81%aeai%e8%80%83%e5%af%9f%ef%bc%9asparse-moe%e3%81%8c%e3%80%8c6-256%e9%81%b8%e6%8a%9e%e3%80%8d%e3%81%a7%e7%94%9f%e3%81%bf%e5%87%ba%e3%81%99%e3%82%b3%e3%82%b9%e3%83%88%e5%b7%ae.md

今週のAI考察:Sparse MoEが「6/256選択」で生み出すコスト差を、エンジニアはどう使うか

「256のうち6つだけ動かす」という設計が、APIコストの計算式を書き換えつつある。

Sparse MoE が生み出す価格差の仕組み

DeepSeek V4 Flash-0731(DeepSeek社の推論モデル)は、Artificial Analysis Intelligence Indexで50点を記録し、OpenAIのGPT-5.6 Lunaの51点と1点差まで迫った。性能差がほぼゼロに近い一方、価格は1Mトークンあたり入力$0.14/出力$0.28。GPT-5.6 Luna(入力$0.20/出力$1.20)と比べると、出力トークンで4.3倍の差がある。

この価格差を生んでいるのが「Sparse MoE(スパース混合エキスパート)」アーキテクチャだ。256の専門家モジュールを持ちながら、推論時に活性化するのはゲーティングルーターが選んだ6つのみ。残りはスキップされるため、フルDenseモデルに比べて必要な浮動小数点演算が大幅に減る。

flowchart LR
    Input["入力トークン"]:::existing --> Router["ゲーティング
ルーター"]:::new
    Router --> Active["6つの専門家
が活性化"]:::new
    Router --> Inactive["250の専門家
はスキップ"]:::tradeoff
    Active --> Output["出力
(推論コスト↓)"]:::new
    classDef new fill:#2980b9,color:#fff
    classDef tradeoff fill:#e67e22,color:#fff
    classDef existing fill:#7f8c8d,color:#fff

さらにキャッシュ割引が業界標準90%に対して98%と高く、同じプロンプトを繰り返すRAGやエージェントループでのコスト削減効果は実数字として表れやすい。

出力トークン単価の非対称性が変える見積もり

実装上で最も直接的な影響は「出力トークン単価の非対称性」だ。GPT-5.6 Lunaは入力に対し出力が6倍高いが、DeepSeek V4 Flashは約2倍に留まる。コード補完・要約・長文生成など出力が多いタスクでこの差は月次コストとして累積しやすく、見積もり前提を見直す機会になる。加えて3段階の推論努力レベルを選べる設計は、「このタスクは中推論で十分」という判断でさらなるコスト削減が可能にする。

データ主権とレイテンシ安定性、二つの壁

コストと性能だけを見ると乗り換え一択に映るが、制約が二つある。一つ目はデータ主権。DeepSeekは中国企業のサービスであり、企業情報や個人情報を含むプロンプトをどのデータセンターで処理するかは利用規約の精読が必要だ。ゼロトラスト要件やエンタープライズ契約で縛られている組織では、単純な移行は難しい。二つ目はレイテンシの安定性。MoEモデルは専門家選択の分散度によってレイテンシが変動しやすく、平均スループットだけでなくP95・P99での測定が実用評価の最低ラインになる。

試してみるとしたら

今動かしているAPIコールのうち、出力トークンが多いタスクはどれくらいある?その部分だけDeepSeek V4 Flashに差し替えてA/Bコストを比較したとき、月の請求がいくら変わるか——一度数字を出してみる価値はある。

参考: the-decoder.com — DeepSeek V4 Flash vs GPT-5.6 Luna / eesel.ai — 比較レポート