目次
「巨大で高性能なAIは、賢いが重くて高い」。この悩みを解くのがモデル蒸留（Knowledge Distillation）だ。大きな「先生」モデルの知識を、小さな「生徒」モデルに移すことで、10分の1のサイズ・速度で、先生の性能の95%以上を保つ——そんな"いいとこ取り"を狙う技術である。
本記事は、蒸留の仕組みを先生と生徒のたとえで初心者向けに解説し、メリット・2つの方式・ファインチューニングや量子化との違いを整理する。さらに、2026年に大きな注目を集めた「蒸留の法的・規約上の問題」（OpenAI対DeepSeekの係争、各社の反蒸留条項）まで、誇張なしで踏み込む。
大きな先生の知識を、小さな生徒へ移す
— 10分の1のサイズで、性能の95%以上を保つ
※本記事の数値・事例は各種公表資料・報道の引用（2026年6月時点）。法的論点は一般的な整理であり、個別の事案は専門家・公式情報を確認のこと。
1. モデル蒸留とは？先生と生徒のたとえ
モデル蒸留とは、大きく高性能な「先生（teacher）」モデルの振る舞いを、小さな「生徒（student）」モデルに学習させて再現させる技術。生徒は先生の出力を真似ることで、はるかに小さいサイズでも先生に近い能力を獲得する。実例として、GPT-4o mini が GPT-4o から蒸留されたと説明されている。
カギは「ソフトラベル」：普通の学習が「正解は猫」とだけ教える（ハードラベル）のに対し、蒸留では先生が出す「90%猫・8%犬・2%キツネ」といった確率分布ごと生徒に渡す。この"迷いの度合い"には、正解だけでは伝わらない豊かな情報が含まれる。さらに温度（Temperature）というパラメータで確率を「やわらかく」し、似たもの同士の微妙な関係まで見えるようにする。
人間にたとえれば、ベテラン（先生）が新人（生徒）に「これは猫。ただし犬とも少し迷うケースだ」と判断の機微まで教えるイメージ。だから生徒は、丸暗記より深く・効率的に学べる。LLMの仕組みを知っていると、なぜ確率分布が情報豊富なのかが腑に落ちる。
2. なぜ蒸留するのか（メリット）
蒸留の目的はシンプル——「賢さをできるだけ保ったまま、軽く・速く・安くする」。具体的なメリットは次の通りだ。
⚡ 速くて安い
計算量が小さく、低レイテンシ・低コスト。大量リクエストの本番運用で効く。
📦 約10倍コンパクト
先生の10分の1のサイズでも性能の95%以上を保てるとの報告。
📱 エッジで動く
スマホや端末上など、リソースの限られた環境でも動かしやすい。
🎯 用途特化に強い
特定タスク向けに、小さくても精度の高い専用モデルを作りやすい。
つまり蒸留は、「フラグシップ級の賢さ」を「現場で回せるコスト」に落とし込む橋渡し。エージェントのように大量に呼び出す用途では、コスト差が積み上がるため特に価値が大きい。
3. 2つの方式：ホワイトボックス／ブラックボックス
蒸留は、先生モデルの「中身」にどこまでアクセスできるかで2つに分かれる。これは後半の法的論点にも直結する。
ホワイトボックス蒸留
先生の重みや内部表現にフルアクセスできる場合。出力だけでなく内部の判断過程まで学べるため、より深く転移できる。自社モデルやOSSモデルが先生のときに使える。
ブラックボックス蒸留
先生の出力（API応答）しか見えない場合。入出力のペアを集めて生徒に学習させる。他社のAPIを先生にすると、規約違反になりうる（後述）。
4. 量子化・ファインチューニングとの違い
蒸留は、よく似た「モデルを軽く/変える」技術——量子化やファインチューニング——と混同されやすい。狙いが違うので整理しておこう。
| 技術 | 何をする | ねらい |
|---|---|---|
| 蒸留 | 大モデルの知識を別の小モデルに学ばせる | 小さく速く、性能はできるだけ維持 |
| 量子化 | 同じモデルの重みの精度を下げて圧縮 | メモリ・速度の節約（中身は同じモデル） |
| ファインチューニング | 既存モデルを特定タスク向けに追加学習 | 用途・ドメインへの適応（サイズは概ね不変） |
ざっくり言うと、蒸留＝「別の小さい器に知恵を移す」、量子化＝「同じ器を軽くする」、FT＝「同じ器に専門知識を足す」。3つは排他ではなく、組み合わせて使うことも多い（例：蒸留した小モデルをさらに量子化）。
5. 法的・規約の現実（重要）
ここが2026年に大きな論点になった部分だ。蒸留という技術自体は完全に正当。問題になるのは「誰の出力を、何に使うか」である。
核心：OpenAI・Anthropic・Mistral・xAIなどの利用規約には、「自社サービスの出力を、競合モデルの開発に使ってはならない」という反蒸留（anti-competitive distillation）条項がある。つまり制限付きAPIの出力を先生にして競合モデルを蒸留する行為は、技術的に可能でも規約違反になりうる。
これが現実の係争に発展したのがOpenAI対DeepSeekの事案だ。報道によれば、OpenAIは「DeepSeek関連とみられるアカウントが、アクセス制限を回避してモデル出力を取得し、蒸留に使った疑いがある」と主張した（2026年初頭）。一方でDeepSeek側の利用規約は、自社サービスの出力を他モデルの学習（蒸留含む）に使うことを認めているとされる。「誰のAPI規約が適用されるか」で評価が変わるのがポイントだ。
この論点は最新モデルにも影を落としている。Claude Fable 5 / Mythos 5では、安全分類器が「モデル蒸留」と判定した作業で応答が制限される設計が報じられた。蒸留をめぐる緊張は、規制・各社ポリシーの両面で続いている。実務上は、使う先生モデルの利用規約を必ず確認するのが鉄則だ。
安全に蒸留するための心得
- 自社モデル・許諾されたOSSモデルを先生にする（多くは蒸留可）
- 他社の商用APIを先生にする前に、その規約の反蒸留条項を確認
- とくに「競合モデルの開発」に当たらないか、用途を慎重に判断
まとめ
モデル蒸留は、大きなAIの賢さを小さなAIに移し、現場で回せるコストにする強力な技術だ。要点を振り返ろう。
この記事の要点
- 🧑🏫 先生→生徒：大モデルの知識を小モデルに移す。ソフトラベル＋温度がカギ。
- ⚡ 約10倍小型・高速で、性能95%以上を保てる。エッジ・低コスト運用に。
- 🔓 方式は2つ：内部まで見えるホワイトボックス／出力だけのブラックボックス。
- 🔀 量子化・FTとは別物：器を移す/軽くする/専門知識を足す、の違い。
- ⚖️ 規約に注意：技術は正当だが、制限APIの出力で競合を作るのはToS違反になりうる。
「賢さは大モデル、運用は小モデル」。蒸留はこの両立を可能にする。ただし先生に誰を選ぶかで、技術的にも法的にも結果が変わる。仕組みの基礎はLLMとは、関連技術はファインチューニングもあわせてどうぞ。
FAQ
Q. 蒸留すると性能はどのくらい落ちる？
A. 用途次第ですが、うまく設計すれば「10分の1のサイズで性能の95%以上を維持」との報告があります。完全に同じではないため、必ず評価で許容範囲かを確かめましょう。
Q. 蒸留と量子化はどう使い分ける？
A. 蒸留は「別の小さいモデルに知識を移す」、量子化は「同じモデルの重みを圧縮する」技術です。狙いが違うため排他ではなく、蒸留した小モデルをさらに量子化するなど組み合わせも一般的です。
Q. 他社のAIの出力を使って自分のモデルを作っていい？
A. その提供元の利用規約次第です。OpenAI・Anthropic等は「競合モデルの開発に出力を使うこと」を禁じる反蒸留条項を持ちます。技術的に可能でも規約違反になりうるため、先生に使うサービスの規約を必ず確認してください。
Q. 初心者でも蒸留はできる？
A. 概念はシンプルですが、実装は機械学習の知識が要ります。まずは仕組みの理解から。クラウド各社（Azure等）が蒸留を支援するサービスも提供しており、ゼロから組むより手軽に試せる選択肢も増えています。
