経営支援や実務の現場でLLM（大規模言語モデル）の活用を進める中で、私自身、ある強烈な違和感を覚えた経験があります。
きっかけは、ある取引先の営業戦略についてLLMに相談した時のことでした。プロンプトを入力すると、流れるような美しい文章で即座に回答が生成されました。その内容は実に見事なもので、経営戦略のフレームワークを駆使し、デジタルマーケティングの重要性やターゲット層の絞り込み手順が網羅されていたのです。
「経営戦略にも詳しく、法律や財務諸表の作成まで完璧にこなす。これなら弁護士も会計システムもいらないのではないか」と、一瞬、LLMの万能さに目を見張りました。
しかし、その提案を実際の現場に照らし合わせた瞬間、強烈な徒労感に襲われました。その会社の顧客はネットを一切使わない高齢層が中心で、定期的に顔を出し、お土産を持って雑談する泥臭いアプローチこそが唯一無二の成果を生んでいたからです。AIの提示した「MBAの教科書通りの正論」は、現場の泥臭い現実の前には全く役に立たない空論に過ぎませんでした。
LLMは何でも知っているように見えて、なぜ私たちの「現場のリアル」にはこれほどまでに弱いのでしょうか。
LLMの本質は「階層的な連想マシン」に過ぎない
世間では「AIが思考を始めた」「人間と同等の知能を持った」と騒がれていますが、構造を紐解けばLLMの本質は「階層的な連想マシン」に過ぎません。
LLMはまず最も低い階層で、単語の並び順や文法という統計的なつながりを学習しています。言葉は多次元の空間上に配置されており、意味の近い単語同士（たとえば「王様」と「女王」）は近い位置関係として保持されます。
連想の階層が上がると、単語レベルだけでなく概念レベルの因果関係を捉えるようになります。「雨が降る」という入力に対して「傘が必要」「路面が滑りやすくなる」といった知識を連想して出力する仕組みです。
しかし、注意すべきは、AIが実際に雨に濡れて寒さを感じたわけではない点です。AIは部屋に引きこもって世界中の本や記事を大量に読み漁り、「この言葉の次には、統計的にこの言葉が来やすい」という知識のネットワークを構築しただけに過ぎません。
「推論モデル」と「エージェント」のカラクリ
最近話題の「推論モデル」や「エージェント型AI」も、この連想の応用例です。
たとえば桁数や繰り越しの多い足し算を提示された時、人間であれば「筆算で解くか、電卓を使うか」という選択肢を思い浮かべます。推論モデルも同様に、問題に対して「プログラムを書いて計算させる」という最適な解法ルートをテキスト情報から連想しているのです。
エージェント型AIは、その連想した解法に基づき、実際にプログラムを生成して外部ツール（電卓や実行環境）を動かす機能を拡張したものに過ぎません。
一見するとAIが自律的に思考し、行動しているように見えますが、その思考プロセスもツールの扱い方も、すべては「書物に書かれていたテキストの連想」を実行しているだけです。人間のような柔軟な「実感」や「状況判断」を行っているわけではありません。
なぜ「世間の常識」に強く「社内ルール」に弱いのか
連想マシンとしてのLLMの特性を理解すれば、その強みと弱みは明白になります。
LLMが圧倒的に強いのは、教科書、Wikipedia、GitHubなどのオープン空間に存在する膨大なデータです。歴史的事実の整理や一般的なプログラミングコードの生成など、世の中に正解が出回っている「一般的な常識」に対しては、人間を遥かに凌駕するパフォーマンスを発揮します。
一方で、世の中に存在しない「社内ルール」や独自のビジネス文脈には極めて脆弱です。現場の泥臭いノウハウ、長年の人間関係に基づくローカルルール、暗黙の了解といった情報は、Web上のどこにも落ちていないからです。
「社内情報をすべてテキスト化して読み込ませれば解決するのではないか」と考えがちですが、言語化されていない現場の空気感や暗黙知をすべてデータ化するのは現実的に不可能です。ローカルな文脈を持たないLLMに経営や現場の相談をしても、教科書通りの一般論しか返ってこないのは、仕組み上当然のことなのです。
経営者が知るべきAI活用の境界線
経営者や役職者がAIを活用する上で持っておくべき視点はシンプルです。LLMとは「世の中に公開されている一般的なテキストデータによって構築された、極めて優秀な連想マシン」であるという原則です。
法律の条文チェック、一般的な契約書の雛形作成、コードの記述、公開情報のサマライズなど、世の中に答えがある領域では積極的にLLMに頼るべきでしょう。実務のスピードは飛躍的に向上します。
しかし、自社固有の強み、泥臭い顧客との関係性、社内ルールの最適化といった「ローカルな意思決定」をAIに丸投げしてはいけません。
AIが得意とする「一般的な常識」と、人間しか持ち得ない「現場の暗黙知」の境界線を正しく見極めること。それこそが、情報過多の時代に経営者が果たすべき真の役割なのです。