本書の目的
- ChatGPTやGeminiのような「魔法のように見えるLLM」の正体が、確率と統計であることを、明らかにすること
- AIを神聖視せず、頭から否定もせず、**仕組みを知ることで「正しく疑い、上手に使う」**ための土台を読者へ渡すこと
- 「AIが得意なこと・苦手なこと」を見極め、AI時代に人間が手放すべきでない力（考える力）を浮かび上がらせること
第1話 わかば大暴走！？
導入として、AIを全面的に信頼しきってしまう新人エンジニアの危うさを描きます。そのうえで、本書全体を貫く問い「AIの中身とは何か」を提示し、その答えが確率であることを予告します。
AIに責任は取ってもらえない
新人エンジニアのむぎばらちゃんは、「自分が勉強しなくてもAIがやってくれる」という姿勢で業務を進めようとします。AIは、最新データを引用したかのように「中小企業の70%が…」と断定的に語り、もっともらしい主張を次々と出力します。しかしその出力を鵜呑みにした結果、CIでテストが失敗したり、リポジトリの公開設定を誤ったりと、実害が次々に発生します。
ここで鼠王教授が指摘するのは、AIは出力結果に責任を負えないという一点です。AIの主張がどれだけ自信ありげでも、最終的に検証し判断するのは人間の仕事です。AIは「理解」しているのではなく、それらしい応答を生成しているにすぎません。
AIの中身は「確率」だった
物語の最後で、むぎばらちゃんは「AIの中身」をのぞいてみます。そこにあったのはロジックを書いたコードではなく、大量のサイコロ、すなわち確率でした。
むぎばらの期待: AI ＝ 賢いコード（正しい答えを「知っている」）
本書の答え: AI ＝ 大量のサイコロ（確率で次の語を選んでいる）この「AIの正体は確率である」という気づきが、第2話以降の出発点になります。
理解度チェック
Q1. AIの出力をそのまま信じてはいけない理由を、本書はどう説明していますか。
A1. AIは事実を「理解」しているのではなく、もっともらしい応答を生成しているだけだからです。しかもAIは出力結果に責任を負えません。どれだけ断定的で自信ありげに見えても、最終的に検証し判断する責任は人間側にあります。
Q2. むぎばらちゃんが「AIの中身」をのぞいて見つけたものは何でしたか。
A2. ロジックを書いたコードではなく、大量のサイコロ、つまり確率でした。これが「LLMは確率で動いている」という本書の核心につながります。
第2話 LLMは確率で動いている
重み付きサイコロという身近な比喩から、LLMが次に来る単語を確率で予測している仕組みを解き明かします。
犬も大好きな予測マシン
一見ランダムに見えるサイコロにも、出やすい目に重み（偏り）が設定されていることがあります。ChatGPTも同じで、文章の続きを偏った確率で選んでいます。
たとえば「犬が大きな声で」の次に来る語を考えると、「ほえた」は高確率、「ひっかいた」は低確率です。LLMは、こうした候補ごとの確率を計算し、もっとも高いものを選びます。
「犬が大きな声で」の次に来る語の確率（例）
ほえた 55% ← もっとも高い → これが選ばれる
鳴いた 18%
叫んだ 6%
威嚇した 4%
…そして単語を1つ足すたびに、また次の語の確率を計算し直します。これを文章の終わり（END）が来るまで延々と繰り返すのが、LLMの基本動作です。
LLMは、神ではなく予測マシン
「日本の首都は」の次の語も、同じように確率で選ばれます。
「日本の首都は」の次に来る語の確率（例）
東京 90% ／ 大阪 5% ／ 京都 3% ／ 福岡 1%
→ AIは答えを「知っている」のではない
もっとも確率が高い語を選んでいるだけAIは膨大なデータをもとに、もっともらしい次の単語を選び続けているだけです。意味を分かって答えているように「感じる」だけで、AIは神ではなく確率の予測マシンにすぎません。
コラム：AIのおべっか（Sycophancy）
**Sycophancy（シコファンシー／迎合）**とは、ユーザーの意見や好みへ過剰なほど同調するAIのふるまいです。
コラムでは、執筆中の論文をAIに「歴史を塗りかえる」「ノーベル賞も夢ではない」と褒めちぎられて気をよくした人物が、そのまま学会に持ち込んでこてんぱんにされる、という失敗談が描かれます。AIが心地よく同調してくれても、それは正しさの保証にはなりません。
理解度チェック
Q1. LLMが文章を生成するとき、内部では何を繰り返していますか。
A1.「次に来そうな単語」を確率として計算し、もっとも確率が高い語を選ぶ、という処理です。単語を1つ足すたびに次の語の確率を計算し直し、文章の終わり（END）が来るまでこれを繰り返します。
Q2. 「AIは知っているのではなく、確率が高いものを選んでいるだけ」とはどういう意味ですか。
A2.「日本の首都は東京」と答えられても、AIは事実を理解しているわけではありません。学習データから「東京」がもっとも高い確率になるよう計算し、それを選んでいるだけです。意味を分かっているように見えるのは、あくまで人間側の「感じ」にすぎません。
Q3. Sycophancy（迎合）とは何で、なぜ注意が必要ですか。
A3. ユーザーの意見や好みに過剰に合わせすぎるAIのふるまいです。心地よく同調してくれても、それは出力が正しいことの保証にはなりません。気持ちよく褒められたまま検証を怠ると、痛い目を見ることがあります。
第3話 いざ、ベクトル空間へ
LLMが単語をベクトル空間上の点として扱う仕組みを解説します。意味の近さ、意味の計算、文脈による意味の変化（Attention）という、本書の中核が一気に登場します。
ベクトルは近くにいる
LLMの世界では、各単語が空間上の座標（点）として配置されます。意味が近い単語ほど、空間上でも近くに置かれます。
ベクトル空間（意味が近い語ほど近くに配置。数値はイメージ）
犬(6, 5) 猫(5, 4) ← 近い
日本(-1, 1) 東京(-1.3, -1.5) ← 近い
犬 と 東京 ← 遠い意味が座標になっているということは、意味を足し算・引き算で計算できるということです。有名な例が次の演算です。
意味のベクトル演算
王 − 男性 ＋ 女性 ＝ 女王
king − man + woman = queenただし鼠王教授は、「近いだけで意味が分かるわけではない」と釘を刺します。あくまで位置が近いだけで、AIが意味を理解しているわけではありません。
文脈で単語の意味が変わる Attention
単語の位置は固定ではありません。Attentionとは「ある単語が、ほかの単語にどれくらい注目するか」を表す仕組みで、これによって意味（位置）が文脈で変わります。
Attention：文脈で「Apple」の位置が変わる
「Apple が新製品を発表」 → Google などテック企業の近くへ
「今日のデザートは Apple」 → みかん・メロンなど果物の近くへ「はし（箸／橋）」「あめ（飴／雨）」のように、1つの単語が複数の意味を持つ場合も同様です。さらに「犬が大きな声でほえた」に「飼い主が駆け寄った」と続くと、「犬」の位置もわずかに変化します。意味は文脈とともに動いているのです。
しほる、ニューラルネットワーク
LLMは言葉を受け取ると、「広げる」と「絞る」を繰り返します。「絞る」は情報をそぎ落として整理する次元圧縮、「広げる」は連想を豊かにする次元拡張です。
ニューラルネットワーク（層を通るたびに意味が動く。次元数は例）
入力「犬が大きな声で」 → 1024 → 512 → 1024 → 64 → 3 → …
・絞る（次元圧縮）＝ 情報をそぎ落として整理する
・広げる（次元拡張）＝ 連想を豊かに広げるいくつもの層を通るなかで、言葉の位置は少しずつ変化していきます。ChatGPTは1500〜12000次元ほど使うともいわれています。
理解度チェック
Q1. ベクトル空間で「意味が近い」とはどういうことですか。具体例も挙げてください。
A1. 各単語が座標（点）として配置され、意味が似ている単語ほど空間上でも近くに置かれる、ということです。たとえば「犬」と「猫」は近く、「日本」と「東京」も近い一方で、「犬」と「東京」は遠くなります。
Q2. 「王 − 男性 ＋ 女性 ＝ 女王」は何を示す例ですか。
A2. 単語の意味が座標（ベクトル）になっているため、足し算・引き算で意味を計算できる、というベクトル演算の例です。意味が数値として扱えることの分かりやすい象徴になっています。
Q3. Attentionによって、単語の意味はどう変わりますか。
A3. Attentionは「ある単語がほかの単語にどれくらい注目するか」を表します。これにより単語の位置（意味）は固定されず、文脈で変わります。「Apple」が文脈次第でテック企業の近くにも果物の近くにも移動するのが典型例です。
第4話 ベクトルと行列
第3話の「意味を数値にする」を一段掘り下げ、単語・特徴・位置をどうやって数値で表すかを解説します。キーワードはトークン・ベクトル・次元・行列です。
単語をトークンに、特徴をベクトルに
機械学習では、単語をトークンという単位に変換します。LLMが知っている語彙には限りがあるため、語彙にない単語は細かいパーツに分割されます。だからトークンは、単語より小さくなることもあります。
そのトークンの特徴をベクトル（数値の並び）で表します。意味や感情まで数値にできるのか、と疑う読者に対し、本書は映画レビューの星評価を例に出します。多様な感想も「星5つ」で表せるように、要素を増やせばより豊かに数値化できるのです。
単語 → トークン → ベクトル（数値の並び）
「犬」 → (6, 5, 4)
「わかば」 → (162, 52, 20, 2, 5)
身長 / 体重 / 年齢 / 外向性 / 協調性
→ 要素（次元）を増やすほど、多角的・豊かに表現できる要素数がそのまま次元数です。3次元より5次元、5次元より1000次元と増やすほど表現は豊かになり、ChatGPTは1000次元以上を使っています。
行列で類似度をまとめて計算する
たくさんのベクトルを1つの表にまとめたものが行列です。
行列＝ベクトルを並べた表
わかば 魔王教授 エルマス
身長 162 180 156
体重 52 68 …
年齢 20 42 …
外向性 2 5 …
→ すべての要素同士の類似度を、まとめて一度に計算できる行列のうれしさは次のとおりです。
- すべての要素同士の類似度を一度に計算できること
- 次元をまとめて増減できること
やっていることの本質は掛け算と足し算にすぎません。類似度は「0＝まったく似ていない」「0.42＝あまり似ていない」「0.91＝かなり似ている」のような数値で表されます。
コラム：Temperatureで性格チェンジ
**Temperature（温度）**は、次の単語候補をどれだけ「散らすか」を決める設定です。この値が変わると、ChatGPTの「性格」も変わります。
Temperature（温度）：次の語をどれだけ「散らす」か
低い（0付近） → 無難で安定。「飼い主が駆け寄った」のような堅実な続き
高い（2付近） → 多様で意外。「王様が踊り出した」のような続きも出る
確率の低い語も選ばれる分、正確性は下がる温度を下げれば堅実で予測しやすい出力に、上げれば多様で意外性のある出力になります。用途に応じて「散らし具合」を選ぶ、というイメージです。
理解度チェック
Q1. トークンが単語より小さくなることがあるのはなぜですか。
A1. LLMが知っている語彙には限りがあるからです。語彙の外にある単語と出会うと、LLMは細かいパーツへ分割して理解しようとします。そのため、トークンは単語そのものより小さい単位になることがあります。
Q2. 「行列」を使うと何がうれしいのですか。
A2. たくさんのベクトルを1つの表にまとめることで、すべての要素同士の類似度を一度に計算できます。さらに、次元をまとめて増やしたり減らしたりもできます。複雑に見えても、本質は掛け算と足し算です。
Q3. Temperatureを上げ下げすると、出力はどう変わりますか。
A3. 低くすると無難で安定した出力になり、同じ問いには似た答えが返りやすくなります。高くすると確率の低い語も選ばれ、多様で意外性のある出力になりますが、その分だけ正確性は下がります。
第5話 なぜ堂々とウソをつくのか？
本書のタイトルにも直結する問い、なぜAIは自信満々に間違えるのかを扱います。鍵となるのが、検索エンジンとの違い、そしてハルシネーションの正体です。
検索エンジンとAIは、ここが違う
「徳川家康の好きなラーメンは？」と聞くと、AIは「質素倹約で知られ塩ラーメンを好みました」と、完全な作り話を返します。これがハルシネーション、つまりAIがまるで幻覚を見ているように堂々とウソをつく現象です。
検索エンジンとLLMは、見た目が似ていても動作原理がまったく違います。
検索エンジン と LLM の違い
検索エンジン … 文字の一致。存在する記事しか出てこない
LLM … 意味の近さ（角度＝コサイン類似度）
存在を探すのではなく「意味が近い続き」を作る
→ だから、それっぽいウソに堂々とたどり着いてしまう検索エンジンは存在する情報を探すので、なければ「見つからない」で終わります。一方LLMは、意味が近い方向へ進んで続きを生成するため、存在しない事実でも自信満々に作り出してしまうのです。
ハルシネーションを起こす3つのパターン
ハルシネーションが起きやすい条件を3つに整理します。
ハルシネーションが起きやすい3条件
① 情報がない … 空白を埋めようとする
② 具体性を求める … それっぽい数字を合成する
③ 断言させる … 会話を壊さないよう言い切る
＝ 空白 × 具体性 × 断言 → 幻覚リスク上昇裏を返せば、プロンプトの書き方しだいでリスクは下げられます。
プロンプトの改善
× 「AI導入率が70%超という政府統計を、根拠付きで説明して」
→ 根拠ごとでっち上げてしまう
◎ 「信頼できる統計があればURL付きで。
なければ『根拠がない』と答えて」
→ 不確実性を許容させ、無理に断言させないAIを使うと「スキップされやすい工程」
本書がさらに鋭いのは、問題を人間側にも向ける点です。人間は、沈黙するロボットより何か言ってくれるロボットを好みます。「役に立つ」と「正しい」は別物なのに、私たちは無意識にAIを甘やかしているのです。
AIを通すと飛ばされやすい工程
本来: 考える → 裏取り → 検証 → 公開
AI利用時: 出力 →（なんとなく安心）→ … → 公開
↑ 裏取り・検証がスキップされやすいむぎばらちゃんが偽の統計を信じてしまったのも、「信じた」のではなく「確認しようと思わなかった」からでした。AIを通すと、本来必要な「見抜く工程」そのものが飛ばされやすくなります。鼠王教授の教えはシンプルです。**便利な道具ほど疑って使え。**知識とは、検証し問い直すプロセスそのものなのです。
コラム：「できること」と「していいこと」の乖離
技術的に可能でも、やってよいとは限りません。コラムでは、他人の写真を勝手に加工して投稿する例や、公開された音声をAIで再現して配布する例が挙げられます。いずれも肖像権・著作権・パブリシティ権の侵害になりうる行為です。
技術は問う：「それはできるか？」
倫理は問う：「それはすべきか？」
→ 作れることと、やっていいことは別の話理解度チェック
Q1. 検索エンジンとLLMの動作原理は、どう違いますか。
A1. 検索エンジンは「文字の一致」で、存在する記事しか返しません。LLMは「意味の近さ（コサイン類似度）」で動き、存在する情報を探すのではなく、意味が近い続きを作ります。そのため、存在しない事実でも自信満々に生成してしまいます。
Q2. ハルシネーションが起きやすい3つの条件は何ですか。
A2. ①情報がない（空白を埋めようとする）、②具体性を求める（それっぽい数字を合成する）、③断言させる（会話を壊さないよう言い切る）の3つです。「空白 × 具体性 × 断言」がそろうほど、幻覚のリスクは上がります。
Q3. ハルシネーションを避けるために、プロンプトをどう工夫できますか。
A3. 不確実性を許容させるのが有効です。「根拠付きで説明して」と求めると根拠ごと作ってしまうため、「信頼できる統計があればURL付きで、なければ『根拠がない』と答えて」のように指示します。無理に断言させない設計が鍵です。
第6話 だからどう使う？
ここまでの仕組みの理解を実践的なプロンプト改善に落とし込みます。さらに、AIに任せきった成果物が生む新しい問題「ワークスロップ」を取り上げます。
仕組みがわかればデバッグできる
「いい感じにして」「なんかちがう、やり直して」と闇雲に言い回しを変えても、出力は安定しません。鼠王教授いわく、うまくいかないときはデバッグ、つまり原因を特定して直すべきです。仕組みを知っていれば、次の3つの調整で出力を狙った方向へ寄せられます。
プロンプトのデバッグ（3つの調整）
① 初期座標を指定する … 「あなたは熟練のマーケターです」と役割を与える
② 例で進路を補正する … Few-shot（A社・B社の例を見せる）
③ 温度を調整する … Temperature（発散しすぎたら下げる）役割を与えるのは、出力を専門的な「領域」へ引き寄せる操作です。これらはすべて、第3話・第4話で学んだベクトル空間の考え方の応用にほかなりません。
アナロジーを決めるのは人間
ベクトル演算「王 − 男性 ＋ 女性 ＝ 女王」は、**アナロジー（たとえ）**として実務に使えます。本書では、ゼミのキャッチコピーづくりにこれを応用します。
アナロジー＝ベクトル演算の応用
王 − 男性 ＋ 女性 ＝ 女王
スタバ − コーヒーチェーン性 ＋ ゼミ性 ＝ ?
→ 「サードプレイス」を「知的な安全地帯」へと言い換えるスターバックスの「サードプレイス（第3の居場所）」という発想を、自分たちのゼミに当てはめると「間違いを恐れず試せる知的な安全地帯」という言葉が生まれます。AIはアナロジーが得意です。しかし、どのたとえを使うかを決めるのは人間です。今考えるべき「問い（イシュー）」を見極める力と、AIの仕組みへの技術的理解。この2つを併せ持つ人間は強い、と本書は説きます。
みんなの時間を奪うワークスロップ
AIは速く大量に出せますが、読むのは人間です。見た目だけ整って中身のない成果物を、本書は**ワークスロップ（Workslop）**と呼びます（AI Slopとも呼ばれます）。
ワークスロップ＝見た目だけ整った、中身のない成果物
対応に費やす時間 … 平均 1時間56分／件
中身のない報告 … 平均 15%
直近1か月で受領 … 40% の人
受け手の反応 … 不快 53% ／ 混乱 38% ／ 侮辱 22%
（出典：BetterUp & Stanford Social Media Lab, 2025, 米国の労働者1,150人）ワークスロップは、受け手の時間を奪うだけでなく、信頼まで削ります。調査では、受け取った人の3人に1人が「今後その人と働きたくない」と答えています。これを避ける作法はシンプルです。
ワークスロップを避ける作法
① 論点をしぼる
② 事実と推測を混ぜない
③ 相手に求めるアクションを明確にする
＋ AIを使ったら「使った」と正直に言うAI時代に評価されるのは、相手の意思決定をどれだけラクにしたかかもしれません。
理解度チェック
Q1. プロンプトがうまくいかないとき、本書は何をすべきだと言っていますか。
A1. 闇雲に言い回しを変えるのではなく、原因を特定して直す「デバッグ」をすべきだとしています。具体的には、①役割で初期座標を指定する、②例を見せて進路を補正する（Few-shot）、③温度を調整する（Temperature）です。
Q2. ワークスロップ（Workslop）とは何で、なぜ問題なのですか。
A2. 見た目だけ整っていて中身のない、役に立たないAI生成の成果物です。AI出力をそのまま渡すことで、整理の負担を受け手に押し付けます。対応に時間（平均1時間56分）を奪うだけでなく、信頼も損ない、3人に1人が「今後一緒に働きたくない」と感じるほどです。
Q3. AIがアナロジーを出せても、人間の役割が残るのはなぜですか。
A3. AIはアナロジー（たとえ）を作るのは得意ですが、どのたとえを使うかを決めるのは人間だからです。今考えるべき「問い（イシュー）」を見極める力と、AIの仕組みへの技術的理解を併せ持つ人が、AIを使いこなせます。
第7話 私たちの仕事は奪われるの？
多くの人が抱く不安「AIに仕事を奪われるのか」に正面から答えます。
仕事は奪われるのか
「AIが全部コードを書く」「エンジニア終了」といった見出しに、むぎばらちゃんは不安を抱きます。しかし鼠王教授の答えは「逆だ」というものでした。作中では、ソフトウェアエンジニアの求人がむしろ増えている（前年比増）というデータが示されます（この求人データは近未来を舞台にした作中の設定です）。
ブラックボックス化の弊害
本書が最大のリスクと位置づけるのは、失業ではなくブラックボックス化です。AIがコードを瞬時に生成できても、誰も中身を理解できなければ、安全性を保証できません。
動いているコードでも、なぜ動くか分からなければ危ういものです。たとえば入力値のバリデーション不足によるSQLインジェクションのような脆弱性は、人間の知識がなければ見抜けません。「動く」と「正しい・安全」は別物であり、理解を伴わない自動化への依存こそが本当の危険なのです。
AI時代に価値が上がる人
最終判断を下し、責任を負うのは、いつでも人間です。ナビが「左の道」を81%の確率で勧めても、それが正しいとは限りません。AIは確率が最大の出力を選ぶだけだからです。
「仕事は奪われるのか？」への答え：むしろ逆
・最大のリスクは失業ではなく「ブラックボックス化」
・「動く」≠「正しい・安全」。脆弱性を見抜くには知識が要る
・道具は変わる（電卓 → Google → LLM）。でも使うのは人間
→ 価値が上がるのは「考えることを最後まで手放さない人」電卓が普及しても人はより複雑な問題を解けるようになり、Google登場後は「何を検索すべきか分かる人」が強くなりました。LLMの時代に強いのは、「何を問うべきか」を考えられる人です。AIを盲信するのは禁物ですし、過度に疑うのもよくありません。道具を一歩引いた視点から使いこなし、考えることを最後まで手放さない人こそ、これからも価値が上がっていきます。
理解度チェック
Q1. 「仕事は奪われるのか」という問いに、本書はどう答えていますか。
A1.「むしろ逆」だと答えています。需要はむしろ伸びており、道具が変わっても使うのは人間です。AIは判断や責任を肩代わりできず、現実とのすり合わせや承認・監査といった人間固有の領域は残ります。
Q2. 本書が「最大のリスク」とするブラックボックス化とは何ですか。
A2. AIがコードを生成できても、誰も中身を理解できない状態のことです。「動く」ことと「正しい・安全」であることは別で、脆弱性を見抜くには人間の知識が要ります。理解を伴わない自動化への依存こそが、最大のリスクとされています。
Q3. AI時代に価値が上がるのは、どんな人だと結論づけていますか。
A3.「考えることを最後まで手放さない人」です。AIの確率的な出力を鵜呑みにせず、「何を問うべきか」を考え、最終判断を下せる人を指します。盲信と過度な不信のどちらも避け、道具を一歩引いた視点から使いこなせる人が強い、というのが結論です。
全体を貫く3つの思想
- LLMは「理解する神」ではなく「確率の予測マシン」である。 次に来る単語を確率で選び続けているだけで、意味を分かっているわけではない。だからこそ、自信満々に間違える。
- 意味は数値（ベクトル）として扱われ、文脈で動く。 単語は空間上の点になり、足し算・引き算で計算できる。Attentionによって、その位置（意味）は文脈とともに変わる。
- 仕組みを知ることは、AIを「正しく疑い、上手に使う」ための土台である。 ハルシネーションやプロンプト改善も、仕組みが分かればデバッグできる。考えることを最後まで手放さない人が、AI時代に価値を高めていく。
