本文へスキップ
スキルアップカレッジ

AI の性能は 3 つの層で決まる——モデル・データ・計算資源

レッスン1:AI の性能は 3 つの層で決まる——モデル・データ・計算資源

このレッスンで学ぶこと

  • AI の性能を「モデル・データ・計算資源」の 3 層フレームで捉えられる
  • 本コースの守備範囲(仕組み側の入門)と、扱わない範囲(使い方)を区別できる
  • 生成 AI 入門レベルで触れる論点を、8 レッスン規模で深堀りするロードマップを持てる
  • 「仕組みを 1 段深く知る」ことが、投資判断・失敗の切り分け・ベンダー説明にどう効くかを理解できる
  • narrow AI と汎用人工知能(AGI)の関係を、本コースの立ち位置とともに把握する

「AI の仕組み」と聞くと、行列演算や確率論のような数式を思い浮かべる方が多いかもしれません。本コースは、そうしたイメージをいったん脇に置きます。数式ではなく、モデル・データ・計算資源という 3 つの層で AI を読み解く発想を軸に、パーセプトロンから Transformer事前学習Post-trainingMoE量子化KV キャッシュまでを、比喩と図解と具体例で解説していきます。数式を暗記する必要はありません。この 3 層の骨格が頭に入るだけで、AI に関する判断の解像度は 1 段上がります。

本コースの位置づけ——「仕組み側」の入門

本コースは AI の「仕組み側」の入門です。ChatGPT や Claude といった生成 AI の使い方、プロンプトの書き方、エージェントの設計は、別の入門コースで扱います。本コースは「なぜそう動くのか」を、モデル・データ・計算資源の 3 層構造で読み解くことを目標にします。すでに生成 AI の入門レベルの内容(トークン・Transformer・事前学習・ファインチューニング・RLHF・ハルシネーション・文脈窓)に触れたことがある方向けに、それぞれを 1 段深く解説していきます。

💡 ポイント 本コースは「使い方」ではなく「仕組み」に軸足を置きます。プロンプトの型やエージェントの設計は扱わず、なぜ AI がそう動くのかの内部構造を、非エンジニアの企画・PM・マネジメント層と、AI に関わる新人エンジニアの両方に届く言葉で解説します。

なぜ「仕組み」を知ることに投資対効果があるのか

生成 AI の使い方は、実際に触りながら覚えていくのが最速です。一方、仕組みを 1 段深く知っておくことは、次の 3 つの場面で効いてきます。

  1. モデル選定と投資判断:どのモデルを社内で採用するか、どのベンダーと契約するか、どこにコストをかけるか。3 層フレームがあると、比較の軸が定まります
  2. 失敗の切り分け:AI が期待通りに動かないとき、モデルの問題か、データの問題か、計算資源の問題か。切り分けの当たりが早くつきます
  3. ベンダー説明の吟味:営業資料や技術説明で「弊社のモデルは 〜〜」と言われたときに、それが何を意味するかを言葉で受け止められます

これらはすべて「使い方」を極めても身につきにくい判断力です。本コースは、この判断力の土台を作ることを狙います。

3 層フレーム——モデル・データ・計算資源

本コースの背骨となる考え方が、「AI の性能は 3 つの層で決まる」というフレームです。3 つの層とは、モデル(何を計算するか)、データ(何から学ぶか)、計算資源(どれだけの計算力で学ばせ、動かすか)です。

flowchart TB
  subgraph L3 [計算資源層]
    GPU[GPU / TPU]
    Parallel[並列計算]
    KV[KV キャッシュ]
  end
  subgraph L2 [データ層]
    Pretrain[事前学習データ]
    Post[Post-training データ]
    Human[人間のフィードバック]
  end
  subgraph L1 [モデル層]
    Arch[アーキテクチャ<br/>Transformer など]
    Param[パラメータ数<br/>数百億〜数兆]
    Weight[重み]
  end
  L1 --> Output[AI の応答]
  L2 --> Output
  L3 --> Output

3 層は独立ではなく、互いに強く影響し合います。良いモデルアーキテクチャがあっても、学習させるデータが乏しければ性能は伸びません。潤沢なデータがあっても、それを学習させる計算資源がなければ実際に学習は完了しません。逆に、計算資源が豊富でも、アーキテクチャとデータが噛み合っていなければ結果は出ません。

モデル層——何を計算するか

モデル層は、AI が入力を受け取ってから出力を返すまでの計算手順の設計を指します。ニューラルネットワークのアーキテクチャ(層の並び方や接続の仕方)、パラメータの数、活性化関数の選び方などがここに含まれます。生成 AI で使われる Transformer は、モデル層の代表格です。パラメータ数は、モデルが表現できる複雑さの目安になります。2025 年時点の大規模モデルは、数百億から数兆のパラメータを持ちます。

データ層——何から学ぶか

データ層は、モデルに学ばせる素材を指します。事前学習では、Web ページ・書籍・コードなど大量のテキストを与え、次の単語を予測させる学習をします。Post-training(事後学習)では、人間が書いた模範解答や、人間が並べた「どちらが好ましいか」の比較データで、モデルの振る舞いを整えます。データの質と量は、モデルの性能を大きく左右します。「ゴミを入れればゴミが出る」という古い格言は、AI にもそのまま当てはまります。

計算資源層——どれだけの計算力で学ばせ、動かすか

計算資源層は、モデルの学習と推論に使われる計算機の総体を指します。GPU(Graphics Processing Unit、画像処理を得意とする計算チップ)や TPU(Tensor Processing Unit、Google が AI 向けに設計した計算チップ)が中心的な役割を担います。並列計算の設計、KV キャッシュのような推論最適化、量子化や蒸留のようなモデル圧縮も、この層の話題です。計算資源はコストとレイテンシに直結し、実務でのモデル選定に強く影響します。

📝 補足 3 層フレームは本コース独自の整理ではなく、AI の実務家が経験則的に共有している考え方です。学術的にも「Scaling Laws(規模の法則)」の研究として、モデルサイズ・データ量・計算量の 3 変数の関係が定量的に調べられています。詳しくはレッスン 7 で扱います。

生成 AI 入門で触れた話を、8 レッスンで深堀りする

生成 AI の入門レベルでは、トークン・Transformer・事前学習・ファインチューニング・RLHF・ハルシネーション・文脈窓といった論点が、1 レッスン程度の分量にまとめられることが多いです。本コースは、その入門レベルで登場した論点を 8 レッスン規模に展開します。ここでは、これから何を学ぶかの見取り図を示します。

レッスン テーマ 3 層フレームでの位置
1 AI の性能は 3 つの層で決まる 3 層全体の俯瞰
2 ニューラルネットの系譜 モデル層の歴史
3 学習の 3 分類 データ層と学習の関係
4 学習が進む原理 モデル層とデータ層の橋渡し
5 Transformer の中身 モデル層の中核
6 トークンと埋め込み モデル層とデータ層の接点
7 事前学習と Post-training データ層の実務
8 効率化と推論最適化 計算資源層の実務

前半のレッスン 2〜4 で「学習が進む原理」の土台を固め、中盤のレッスン 5〜6 で Transformer の中身に踏み込み、後半のレッスン 7〜8 で「訓練後の振る舞い調整」と「実運用の効率化」に進みます。各レッスンでは、3 層フレームのどこの話をしているのかを繰り返し確認しながら進めます。

narrow AI と AGI の関係——本コースはどこを扱うか

AI の議論では「narrow AI」と「AGI(汎用人工知能、Artificial General Intelligence)」の区別がしばしば登場します。narrow AI は特定のタスクに特化した AI で、画像認識・翻訳・チェスなどが典型例です。AGI は人間と同等以上に幅広いタスクをこなせる AI の理想形で、現時点では研究途上の概念です。生成 AI は narrow AI と AGI の中間に位置すると見る立場もあれば、より narrow AI 寄りだと見る立場もあります。本コースはこの論争には深入りせず、現時点で実務に使える大規模言語モデル(LLM)の仕組みに焦点を当てます。

⚠️ 注意 「AGI がもうすぐ実現する」「AGI は永遠に実現しない」という両極端の主張が飛び交っていますが、実現時期や定義そのものにコンセンサスはありません。本コースは、こうした未来予測ではなく、いま動いている AI の仕組みを扱います。

講師の現場メモ——非エンジニアが仕組みを知る意義

私は米系大手テック企業でリサーチエンジニアと機械学習エンジニアを 8 年務めた後、独立して AI 教育を仕事にしています。そのなかで気づいたのは、「非エンジニアが仕組みを 1 段深く理解できると、意思決定の解像度が明確に変わる」ということです。

ある管理職向けワークショップで、参加者の企画部長がこう言いました。「これまで、ベンダーから『わが社のモデルは業界トップの性能です』と言われても、何を根拠に判断すればいいかわかりませんでした。3 層フレームを知ってから、『そのモデルはどのアーキテクチャで、どんなデータで学習させ、どの規模の計算資源で動かしているか』を聞くようになりました。同じ営業説明でも受け止め方が違います」。

仕組みを知ることは、専門家になることを意味しません。「相手の言っていることを言葉で受け止められる」レベルで十分です。そのレベルを目指すのが本コースの狙いです。

本コースが扱わないこと

境界を明示しておきます。以下の論点は本コースの対象外です。

  • プロンプトの書き方・出力制御:別の入門コースで扱います
  • ChatGPT / Claude / Gemini のサービス比較:別の入門コースで扱います
  • 業務での AI 活用方法(文書作成・要約・情報整理):別の入門コースで扱います
  • AI エージェントの設計:別の入門コースで扱います
  • 個別モデルの性能ベンチマーク比較(MMLU などの点数):情報の陳腐化が早いため扱いません
  • G 検定・E 資格・生成 AI パスポートの試験対策:本サイトの方針で扱いません
  • コード実装(PyTorch や TensorFlow の API 呼び出し):本コースは「考え方の設計」に絞ります
  • 数式による厳密な導出:直観・比喩・図解で代替します

これらを別途学びたい方は、外部の書籍や公開資料を参照してください。参考資料はコース末にまとめています。

まとめ

このレッスンでは、以下のことを学びました。

  • 本コースは AI の「仕組み側」の入門であり、使い方は別途学ぶ前提であること
  • AI の性能は「モデル・データ・計算資源」の 3 層で決まるフレームで捉えられること
  • 3 層は独立ではなく互いに影響し合うこと
  • 生成 AI 入門レベルで触れる論点を、8 レッスン規模で深堀りするロードマップの全体像
  • 仕組みを知ることは、モデル選定・失敗の切り分け・ベンダー説明の解像度を上げる投資であること
  • narrow AI と AGI の議論に深入りせず、現時点で動いている大規模言語モデルの仕組みに焦点を当てること

次のレッスンでは、モデル層の歴史をたどります。1958 年のパーセプトロンから、2012 年の AlexNet、そして 2017 年の Transformer までのニューラルネットワークの系譜を、時代背景とともに整理します。


確認クイズ

このレッスンの理解度をチェックしましょう。