推論モデルの仕組みは？「考える」をオンにすると答えは良くなるのか

要点

対象：AIの「考える」設定を見かけた人

1. 小さなモデルで思考オンにして正しくなったのは3問中1問
2. 画面の思考は要約で、下書きそのものではない
3. 手順の多い作業だけ努力のレベルを上げる

推論モデルは、答えを書く前に、解き方の下書きをするAIです。ClaudeやGeminiの説明では、この下書きを「思考」と呼んでいます。計算や分析のように手順の多い作業では、下書きで途中の結果を確かめるので、答えの質が上がります。¹⁸

この記事の目次（5節）

1. 推論モデルは、答えの前に何をしているか
2. 思考オンとオフで3問を比べた
3. Claudeで思考の量を決める設定
4. よくある誤解
5. 仕事で使うときに気をつけること

ただし、思考をオンにすれば、いつも正しく答えるわけではありません。このサイトで小さなモデルに3つの質問をしたところ、思考をオンにして正しくなったのは1問でした。残りの2問は、オンでもオフでも正誤が同じでした。

長く考えさせるほど、待ち時間と使用量も増えます。³

推論モデルは、答えの前に何をしているか

文章を作るAIは、次に来そうな言葉を1つずつ選んでつなげます（生成AIの仕組み）。下書きをしないAIは、いきなり答えから書き始めます。途中の計算や見直しは、答えの文章の中に押し込むか、省くしかありません。¹

推論モデルは、下書きの中で次のことをします。¹

1. 聞かれていることを自分の言葉でまとめ直す
2. いくつかの解き方を試し、途中の結果を確かめる
3. うまくいかない解き方はやめる

最後に、下書きをもとに答えを書きます。たとえるなら、テストで途中式を計算用紙に書いてから、解答欄を埋めるようなものです。下書きも答えと同じく、言葉を1つずつつなげた文章です。

「順を追って考えよう」の一言で正答率が上がった

2022年の論文で、答えの前に英語で「Let's think step by step」と一言添えるだけで、AIが途中の考えを書き、算数の文章題の正答率が上がると示されました。東京大学の小島武氏らの研究です。⁴

日本語にすると「順を追って考えよう」です。

試験には、算数の文章題を集めた2つの問題集（MultiArith、GSM8K）を使いました。⁴

正しく答えたら報酬を与えて学ばせる

中国のAI企業DeepSeek（ディープシーク）は、頼まれなくても下書きをするモデル「DeepSeek-R1-Zero」の学習のしかたを、論文で詳しく公開しています。⁵

DeepSeekは、正誤を自動で判定できる数学やプログラミングなどの問題を、モデルに解かせました。答えが合っていれば報酬（学習で与える点）を与え、合っている答えを出しやすくなるように学ばせました。人が書いた解き方の手本は使っていません。⁵

学習を続けると、下書きはだんだん長くなりました。米国の数学コンテスト「AIME 2024」の問題では、正答率が15.6%から77.9%に上がりました。途中からは、見直すときの「待って（wait）」という言葉が下書きに急に増えました。⁵

思考オンとオフで3問を比べた

このサイトで2026年10月23日に試しました。使ったのは、中国のアリババが公開している「Qwen3-1.7B」です。中身が公開されていて、誰でもダウンロードして動かせるモデルで、思考のオンとオフを切り替えられます。⁹

動かしたのはクラウドの作業環境で、かかった時間は目安です。

表の「トークン」は、AIが文章を数える単位です。時間を短くするため、書く量に上限を決めました。上限は思考オンで3,000トークンで、モデルの説明が勧める長さより、ずっと短くしています。⁹

営業日の質問には、思考オンで正しく答えました。下書きは英語で、その中で10月の水曜日を数え直していました。おつりの質問では、下書きに「Wait」と書いて、計算を確かめ直していました。

会議室の質問では、9時〜17時のうち10時〜12時と13時〜15時が予約で埋まっています。90分続けて空くのは15時〜17時だけなので、正しい答えは15時です。

思考オンの下書きは、15時〜17時の空きも1時間と数えてしまいました。そのうえで、いちばん早い空きの9時を答えに選び、「9」と書いたところで上限に届いて止まりました。

思考オンでは、書いた量が思考オフの3〜6倍になりました。小さなモデルで1回ずつ試しただけなので、大きなモデルでも同じ結果になるとは限りません。

Claudeで思考の量を決める設定

Claudeのアプリやブラウザー版では、送信ボタンの横のモデル名を押して「努力」を選ぶと、レベルを選べます。思考をオフにできるモデルでは、同じ所に「思考」の切り替えも出ます。³

努力を上げると、より徹底して考えた答えになります。そのかわり時間がかかり、プランの使用量の上限にも早く届きます。³

Claude Sonnet 5.5・Claude Opus 5.5・Claude Fable 5.1・Claude Opus 5では、アプリで思考をオフにできません。³ この4つで思考の量を変えるときは、努力のレベルを変えます。

Claude Sonnet 5.5の努力のおすすめは、Claude Sonnet 5.5の記事にまとめました。³

APIでは、見えない下書きの分も料金に入る

自分のプログラムからAPIでClaudeを使う場合、下書きの分も出力として料金に入ります。返ってくるのが下書きの要約だけでも、料金は下書きの全部にかかります。²

GeminiのAPIも、要約だけが返る場合に、下書きの全部をもとに料金がかかります。⁸

よくある誤解

「画面の思考を読めば、答えの理由が全部分かる」

ClaudeのAPIでは、返ってくる思考は要約で、元の下書きそのものではありません。要約は、答えたモデルとは別のモデルが作っています。¹ アプリの画面に出るのも、思考の全文ではなく「概要」です。³

元の下書きにも、考えたことを全部書くとは限りません。2025年、Anthropicの研究者は、質問に答えのヒントを目立たないように混ぜてAIに解かせ、ヒントを使ったことを下書きに書くかを調べました。⁶

ヒントを使って答えた問題のうち、Claude 3.7 Sonnetは約25%しか、ヒントに触れていませんでした。R1-Zeroの学習を土台に作ったDeepSeek-R1は、約39%でした。⁶

「長く考えさせるほど、正しくなる」

2025年の論文では、長く考えさせるほど正答率が下がる問題を、研究者が作って試しました。余計な情報を混ぜた数え上げの問題などで、長く考えるほど、Claudeのモデルがその情報に引きずられました。⁷

「推論モデルは、別の仕組みで動くAI」

推論モデルも、言葉を1つずつつなげて文章を作る仕組みは同じで、答えの前に下書きをするように訓練されています。⁵

仕事で使うときに気をつけること

• 簡単な質問や、ふだんの文章を書く作業は、努力を「低」か「中」にしても足ります。³
• 計算、計画づくり、資料の分析のように手順の多い作業では、努力のレベルを上げます。³
• 答えの数字や日付は、画面の思考ではなく、元の資料や自分の計算で確かめます。
• 自分でAPIを使っているなら、下書きに使ったトークン数を、APIが返す使用量（usage）の欄で確かめます。²
• ChatGPTにも、考える深さを選ぶ切り替えがあります（GPT-6の記事）。

手順の多い質問をするときは、努力のレベルを1段上げて同じ質問をし、答えが変わるかを比べてみてください。

出典

1. Claude Platform Docs「思考」（参照 2026-10-23）
2. Claude Platform Docs「思考のステアリング」（参照 2026-10-23）
3. Claude ヘルプセンター「モデル、努力レベル、思考設定を変更する」（参照 2026-10-23）
4. Kojima ほか「Large Language Models are Zero-Shot Reasoners」（arXiv:2205.11916、NeurIPS 2022）（参照 2026-10-23）
5. DeepSeek-AI「DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning」（arXiv:2501.12948、Nature 645巻）（参照 2026-10-23）
6. Anthropic「Reasoning models don't always say what they think」（2025年4月3日）（参照 2026-10-23）
7. Gema ほか「Inverse Scaling in Test-Time Compute」（arXiv:2507.14417、TMLR）（参照 2026-10-23）
8. Gemini API「Gemini の思考」（参照 2026-10-23）
9. Qwen/Qwen3-1.7B（Hugging Face・Apache 2.0）（参照 2026-10-23）