3行でいうと

  • 合成データは、すでに実用されています。NVIDIAのNemotron-4 340Bでは、調整（アライメント）に使ったデータの98%超が合成だと書かれています。小さなコード用モデルphi-1では、約10億トークンの合成の教科書と練習問題を、約60億トークンの選別したWebデータに足しています。
  • 危険は「実データを合成データで置きかえ続ける」ことです。Nature誌の論文は、AIが作ったデータで世代を重ねて学習すると、まれな内容から消えていく「モデル崩壊」が起きると示しました。別の論文は、実データを残して合成データを足し続ければ、崩壊を避けられると示しています。
  • 技術の問題の外にも、条件があります。AnthropicとOpenAIの利用規約は、競合するAIモデルの開発にサービスを使うことを制限しています。合成データを作る前に、作る元のサービスの規約を読む必要があります。助言ではありません。

この記事は、データを作って学習させて確かめた記録ではありません。この記事は、公式の文書と論文のページを読んでまとめたもので、実際に使って確かめた記録ではありません。情報は2026年10月16日に確認しました。規約や仕様は変わることがあります。

先に結論

前提：合成データとは何か

学習データ（AIの学習に使う文章や画像の集まり）は、ふつう人が書いたもの、集めたものです。合成データは、それをAIに作らせたデータです。この記事では、文章を作るAIを学習させるために、文章を作るAIが出したデータを指します。

使われ方は、大きく2つに分かれます。

どちらでも、出力を学習に戻すので、品質の選別がないと、間違いや偏りまで増幅されます。

利点：実際に使われている例

公式のページと論文の要旨で確認できた例を並べます。

例 読み取れたこと
Self-Instruct（2022年12月にarXivへ投稿） GPT-3に指示と入出力を作らせ、無効なものや重複を除いて、元のGPT-3を微調整する手法。Super-NaturalInstructionsという評価で、元のモデルより33%（絶対値）上がり、InstructGPT-001に近い水準になった、と書かれています。
phi-1（2023年6月） 13億パラメータのコード用モデル。「教科書の質」を基準に選んだWebデータ約60億トークンと、GPT-3.5に作らせた合成の教科書と練習問題の約10億トークンで学習。8基のA100で4日。HumanEvalで50.6%、MBPPで55.5%。
Nemotron-4 340B（2024年6月） NVIDIAの公開モデル群。調整に使ったデータの98%超が合成と書かれ、その合成データの生成の仕組みも公開されています。

読み取れる利点は、僕らの整理です。人手では集めにくい形のデータ（練習問題、指示と答え）を、大量に作れます。小さなモデルでも、質のそろったデータで大きな成果が出た例がある（phi-1）。合成データを作るモデルを、選別の役にも使える（Self-Instructの除去の工程）。ただし、どの例も「選別」と「評価での確認」の工程を持っており、作って混ぜるだけではありません。

リスク1：モデル崩壊

2024年7月にNature誌に載った論文（Shumailovら）は、AIが作ったデータで世代を重ねて学習するとどうなるかを調べました。「モデル崩壊」と呼び、大規模言語モデルのほか、変分オートエンコーダ（VAE）とガウス混合モデル（GMM）でも調べています。

論文は崩壊を2段階で説明しています。初期は、確率の低い出来事（分布の裾）についての情報が失われはじめる段階。後期は、ばらつきの小さな分布に収束する段階です。原因は、3つの誤差の積み重なりだと書かれています（統計的な近似誤差、関数の表現力の誤差、関数近似の誤差の3つです）。

言語モデルの実験は、OPT-125mをwikitext2で微調整し、世代ごとに合成データを作って学習し直す設定です。元のデータを残さない設定では、perplexity（文章の予測のしにくさ。小さいほど良い）が20〜28ポイント悪化した、と論文に書かれています（原文は、元のデータで微調整したモデルの平均perplexityが34、微調整前が115と書いたうえで、性能の低下を20〜28ポイントとしています）。第9世代の出力は、くり返しが多く、まとまりのない文章になりました。ところが、元のデータを10%だけ残した設定では、悪化は小さかった、とあります。

見立てです。ここで大切なのは、実データの扱いです。論文の議論は、人間とのやりとりの本物のデータの価値が上がる、としています。

Nature論文の限界の書き方と、「置きかえ」と「積み上げ」の論文

Natureの論文自身が、限界を書いています。実験は少ない世代数です。言語モデルの実験は、最初から学習するのではなく、微調整の設定での概念実証です。大きな言語モデルを最初から学習する実験は、学習に伴う二酸化炭素の排出が大きいことを理由に、行っていません。

別の論文（Gerstgrasserら、arXiv:2404.01413、2024年4月）は、問いの立て方を変えました。各世代で元の実データを合成データに置きかえると、崩壊に向かうが、元の実データに、各世代の合成データを積み上げれば、崩壊を避けられる、と述べています。テスト誤差は、世代数にかかわらず有界（上限がある）と証明した、とあります。言語モデル、拡散モデル、変分オートエンコーダ、線形モデルで調べたと書かれています。

この2つは矛盾するものではなく、「何を捨てて何を残すか」の違いを見たものです。僕らは、論文の要旨とNatureのページを読んだだけで、追試はしていません。

リスク2：偏りの増幅と、均質化

NISTのAI 600-1（生成AIのリスクをまとめた文書）は、12のリスクを挙げています。その中の2.6節で、モデル崩壊に触れています。合成データに頼りすぎる学習で、一部のデータが新しいモデルの出力から消えること、元のモデルの均質化を強めうること、が書かれています。

対策に近い項目も、いくつかあります。リスクの階層（段階づけ）に関する項目がある。生成AIの学習データ、とくに合成データの重複除去を確認する。学習データの品質と由来を評価する。いずれも、NISTの文書の中の行動の項目として書かれています。

リスク3：作る元のサービスの規約

技術とは別に、利用条件の問題があります。以下は、僕らが公式の規約ページを読んだ範囲のまとめで、法的な助言ではありません。個別の判断は専門家に相談してください。

NVIDIAのNemotron-4 340Bは、「NVIDIA Open Model License Agreement」のもとで公開されている、と要旨にあります。作った合成データをどう使えるかは、元になるモデルの条件が違います。規約は変わるので、使う時点の版を読んでください。

実務での整理（見立て）

ここからは、読んだ資料を踏まえた、僕らの見立てです。動作確認はしていません。

気をつけること

出典

更新履歴