AIが人間を超えた？日常業務で感じた強烈な違和感
前回の記事では、錯綜するAIという言葉を「LLM（大規模言語モデル）」「識別系AI」「決定論的IT」の3つに分解して整理しました。今回は、その主役であるLLMが中で一体何を行っているのかを解き明かします。
私自身、日報の作成でこんな体験をしました。「訪問先：A社、案件：新規システム導入、感触：好感度高し、次回提案へ」と単なる単語の箇条書きを打ち込んだだけなのに、AIは瞬時に完璧な敬語と適切な文脈で、驚くほど丁寧で自然な文章を作り上げたのです。これを見た時、「ついにAIが人間の言語能力を超えたのではないか」と強い恐怖にも似た感触を抱きました。
ChatGPT（GPT-3）が登場した初期は、文章こそ滑らかであったものの、論理的な思考力や複雑な文脈理解は弱く、「まあこんなものか」と高を括っていた経営者も多かったはずです。しかし、近年の最新モデルで画面上に「思考時間（独り言のような文章）」が表示されるのを見ると、まるでAIが画面の裏で頭を抱え、必死に悩みながら思考を深めているように思えてしまいます。ですが、本当にAIは意志を持ち、自ら考えているのでしょうか。
「考えずに予測しているだけ」トランスフォーマーという革命
結論から申し上げれば、どれほど賢く見えるAIも、自発的に「考えて」などいません。その原点はどこまでも「入力された文章の次にくる最も確率の高い文字を予測している」という、シンプルな穴埋め問題の繰り返しに過ぎないのです。
かつてLLMの前身であった「RNN（再帰型神経網）」という仕組みでは、長文になると前の内容を忘れてしまったり、計算を並列で処理できず処理速度が極めて遅いという致命的な弱点がありました。この限界を突破したのが、2017年にGoogleが発表した「Transformer（トランスフォーマー）」という技術です。Transformerは文章中の単語同士の関係性（例えば「高い」と「山」、「それ」が指す「鉛筆」）の強さを長文にわたって正確に把握し、並列計算によって圧倒的な高速化を実現しました。
さらに、この技術に人間が「こういう質問にはこう答えなさい」とマルバツを付けて教え込む「強化学習」を掛け合わせることで、驚くほど人間らしい対話能力が完成しました。ハッキングの手法を聞いた際に「それはお答えできません」と倫理的に断るのも、AI自身に良心や道徳観があるからではなく、「そう答えるのが人間にとって望ましい」と強化学習で徹底的に叩き込まれた結果を出力しているだけなのです。
ステップ・バイ・ステップ学習が魅せる「思考の幻影」
では、なぜ最新の「推論モデル（GPT-4oやDeepSeek-R1など）」は、複雑な計算や司法試験・会計士試験といった難関な論理問題を解くことができるのでしょうか。
実はここにも、「次の文字を予測する」という仕組みが巧妙に使われています。複雑な計算を命じられたAIは、いきなり正解を出力するのではなく、まず「うーむ、待てよ。まずは1の位から足して繰り上がりを確認し…」という、まるで数学の参考書にある解説文のような文章を自ら出力するよう学習されているのです。
そして驚くべきことに、AIは自ら出力したその「参考書の解説文」を、もう一度自分自身への入力として読み込ませ直します。解説文を読むことで、次に繋がる正解の確率を高めていく——この「ステップ・バイ・ステップ」の連鎖によって、結果的に正しい解答へ辿り着くのです。つまり、画面上で見られるAIの「独り言」は、思考のプロセスではなく、正解率を上げるために必要な「自作自演の参考書解説」を出力しているに過ぎません。
技術の本質を見極め、AIの限界をビジネスに生かす
本稿の議論を整理しましょう。LLMの本質は、どこまでも入力から確率的に「次の文章を予測する」技術です。かつてのRNNの弱点を克服したTransformerの登場と、人間の意図に寄せる強化学習によって、人間のような対話が可能となりました。そして最新の推論モデルが見せる「思考」も、参考書の解説文を段階的に出力して読み直すという予測機能の応用であり、AIが自発的な意識や論理的思考を持ったわけではありません。
この「単なる予測の連鎖である」という原理と限界を理解することこそが、経営者がAIと向き合う上で最も重要な視点です。文脈に合わせた文章の整形や、パターン化された解説の生成、情報の要約といった「予測が活きる領域」では、AIは圧倒的な能力を発揮します。しかし、予測の根拠となる情報が存在しないゼロからの事業判断や、自発的な責任を伴う倫理的決断、文脈に依存しない本質的な問いを立てることは、原理的にAIには不可能なのです。
「AIが自ら考えている」という幻想を捨て、「次の文字を高精度で予測する強力な計算機」として正しく構造を把握する。そうして初めて、自社のどの業務をAIに委ね、どこに人間ならではの決断を集中させるべきかという、経営上の真の境界線が見えてくるはずです。