今週のAI考察：Move 37 は「直感」ではなく「探索」が選んだ手だった——CoT は推論と呼べるのか

「Move 37 は機械の直感が生んだ手」という通説で、直感側はその手を一万分の一とみなしていた、という話を読んで引っかかった。

「直感」ではなく「探索」が選んだ手、を技術的に解く

AlphaGo（囲碁 AI）は、人間の指し手を真似る方策ネットワークと、未来の盤面を木として展開し評価する探索の二層でできている。Move 37 を選んだのは後者だ。AlphaGo の開発者だった Thore Graepel 氏は MIT Technology Review の寄稿で、LLM の次トークン予測は前者に近く、Chain of Thought（途中式を書き出す手法）も、仮説・却下した案・未解決の問いを明示的に保持する構造ではない、と指摘している。

flowchart LR
    A[盤面・問い] --> B[方策ネットワーク / 次トークン予測]
    B --> C[探索木で未来を展開]
    C --> D[評価して手を選ぶ]
    B --> E[CoT 途中式を書き出す]
    E --> F[状態はテキスト履歴のみ]
    style B fill:#7f8c8d,color:#fff
    style C fill:#2980b9,color:#fff
    style D fill:#2980b9,color:#fff
    style E fill:#7f8c8d,color:#fff
    style F fill:#e67e22,color:#fff

で、実際のところは

エージェントを自作していると、状態は結局プロンプトの履歴にしか残らない。仮説・除外した案・未解決の問いを JSON など別の構造に外出しし、各ステップで更新させる設計を試してみた。失敗したとき、どの時点の前提が誤りだったかを追いやすくなる。

トレードオフと限界

これは一人の研究者の主張で、「推論」の定義次第で結論は変わる。CoT で数学やコードの成績が上がっているのも事実だ。状態を外に持たせればトークン消費とレイテンシが増え、更新を検証する評価役も別に要る。囲碁のように勝敗という明確な報酬が現実の課題にあるとも限らない。

一つ問いかけ

今動かしているエージェントが「いま何を疑い、何を除外したか」を、ログから一覧できるだろうか。

参考: Don’t be fooled—LLMs don’t reason (MIT Technology Review)