言語モデルに「順を追って考えてください」と促すと、答えの前に途中の筋道が出力され、複雑な問題での正答率が上がる。Wei らが提示したこの Chain-of-Thought（思考の連鎖）プロンプティングは、推論性能を引き出す代表的な手法として広く使われるようになった。だが、そこで出力される「途中の思考」を、私たちはどこまで思考と呼べるのか。二つの見方を並べてみたい。
見方その一——推論の足場として
肯定的に見れば、途中式は計算の足場だ。複雑な問題を小さな段階に分解し、各段階を明示することで、モデルは一足飛びの誤りを避けやすくなる。実際、多段の算術や論理パズルで、この手法は明確な効果を示す。段階を書き出すこと自体が、後続の生成を正しい方向へ導く「作業領域」として機能している、という理解だ。
見方その二——後付けの物語として
一方で、慎重な見方もある。出力された筋道は、モデルが実際にたどった内部処理の忠実な記録なのか、それとも結論に合わせて事後的に構成された、もっともらしい説明にすぎないのか——この二つは外からは区別しにくい。整った説明が添えられていても、それが結論の真の根拠だとは限らない。説明の流暢さと、説明の正確さの分離は、もっともらしさという罠で論じた構造の、推論版だとも言える。
もっとも、両者は排他的ではない。途中式が性能を高めるという事実と、その途中式が内部を忠実に映しているとは限らないという懸念は、両立する。足場として有効であることと、透明な説明であることは、別の性質だからだ。
評価をどう設計するか
この曖昧さは、評価の設計に跳ね返る。もし途中式が後付けなら、それを根拠に「モデルは推論できる」と結論するのは早計だ。しかも、評価問題が学習データに混入していれば、途中式ごと暗記している可能性すら出てくる。この汚染の問題はベンチマーク汚染という盲点で扱ったとおりだ。
裏を返せば、Chain-of-Thought が投げかけるのは「機械は考えられるか」という古い問いの、現代的な変奏である。出力される思考の連鎖は、有用な道具であると同時に、私たちが「思考」という言葉に何を求めているのかを映す鏡でもある。説得力ある説明を、そのまま正しい推論の証拠と受け取らない——その慎重さが、評価には要る。関連する論点はナレッジマップにも整理している。
参照した資料：Wei ほか「Chain-of-Thought Prompting Elicits Reasoning in Large Language Models」（NeurIPS, 2022）／ Ji ほか「Survey of Hallucination in Natural Language Generation」（ACM Computing Surveys, 2023）。
