生成 AI がインターネットへ追加するものを文章の意味だけで捉えると、生成過程で生じた差を見落とす。大規模言語モデル（LLM）は、あらかじめ完成した文章を内部から取り出しているわけではない。それまでに並んだトークンを条件として、次に続き得る多数の候補へそれぞれ確率を与え、その分布から一つを選ぶ。このとき、意味がほぼ同じまま複数の候補を選べる場所があれば、候補間の確率を少し動かしても、読者が受け取る内容は大きく変わらない。一方で、その小さな変更を何十回、何百回と繰り返せば、生成された文章の集団には元の生成規則とは異なる統計的な偏りが残る。
大規模言語モデル向けウォーターマークの一つである John Kirchenbauer らの方式は、この性質を利用する。特定の単語を常に目印として使うのではなく、その時点の文脈から擬似乱数的に候補を二つの集合へ分け、一方の集合に属するトークンだけを少し選びやすくする[1]。ある位置で優遇された語が、次の位置でも優遇されるとは限らない。このため、一語だけを見ても透かしの有無は判断できず、文章を普通に読んでも意味上の印が見えるわけではない。検出側は文章全体をたどり、優遇されるはずだった候補が実際に何回選ばれたかを数える。一回ごとには偶然と区別できない差を、反復回数の多さによって統計的な信号へ変える設計である。
一つの文章だけを見れば、この仕組みは生成元を識別するための局所的な技術に見える。しかし、生成された文章は読まれて終わるとは限らない。公開された文章は複製され、検索対象となり、別の文章へ引用され、データ収集の対象にもなる。その一部が将来の学習データへ入れば、過去のモデルが選んだトークン列は、次のモデルが学ぶ情報環境の一部になる。生成時の微小な差が次世代モデルへそのまま保存されるとは限らないが、少なくとも過去の生成結果が未来の学習条件へ入る経路は成立する。現在の出力が保存されることによって、現在の生成と未来の生成が同じデータ循環の中で結ばれる。
この関係を時間方向へ延ばすと、生成 AI とインターネットの関係は、学習済みの世界から文章を作る一方向の処理では収まらなくなる。ある時点のモデルが文章を生成し、その文章が情報環境へ残り、その環境を次のモデルが学び、そのモデルがさらに文章を生成する。過去の生成結果は、保存と再学習を介して未来の生成条件を構成し得る。ウォーターマークがこの循環を作ったわけではない。ウォーターマークの技術的な価値と、本稿で注目する点は別にある。一語ごとの選択へ意図的な微小差を入れ、その差を後から統計的に追跡できるようにしたことで、生成、保存、再学習、再生成の間を情報が移動する過程を具体的に考えられるようになった。
本稿では、この循環を最小単位から順に追う。最初に、一つのトークンを選ぶときに確率分布をわずかに変えるだけで、なぜ自然な文章の内部へ検出可能な偏りを作れるのかを確認する。次に、一回では偶然と区別できない差が、反復によって統計的に見えるようになる理由を数式で整理する。そのうえで視野を一つの文章からインターネット全体へ広げ、過去の生成物が保存され、学習データへ入り、次世代モデルの生成条件へ戻る過程を考える。局所的な確率操作と世代をまたぐ情報循環は規模こそ異なるが、どちらも「過去に生じた差が保存され、後の状態を変える」という同じ構造の上にある。
1. AI 文章を見破るのではなく、生成するときに印を入れる
AI が生成した文章を識別する技術は、検出に使う差をどこで得るかによって大きく二つに分かれる。一つは、自然に差が残ることを期待するのではなく、生成器自身が後から検出できる差を作る方法である。Kirchenbauer らのウォーターマークは、生成途中の候補確率を調整し、完成した文章に統計検定可能な偏りを残す[1]。もう一つは、すでに完成した文章を観察し、人間が書いた文章と AI が生成した文章の間に自然に残っている統計的な差を探す方法である。DetectGPT はこの側に属し、対象文を少し変形した周辺の文章と比較したとき、言語モデルが対象文へ与える確率がどのように変化するかを利用して生成文らしさを判定する[2]。
二つの方式では、同じ「AI 文章を検出する」という目的でも、判定が成立する理由が異なる。事後検出では、人間文と AI 文が異なる確率的特徴を持ち、その差が検出時にも残っていることが必要になる。生成モデルが改良されて人間文との分布差が縮まれば、判定に利用できる特徴も小さくなる。生成後に文章を言い換えれば、元のモデルが残した特徴をさらに弱められる。実際、言い換えによって複数の AI 文章検出器の性能を低下させられることや、反対に人間の文章を AI 生成と誤認させる方向の操作が可能であることが報告されている[3]。判定器が観測しているのは生成元そのものではなく、生成元と相関している文章上の特徴だからである。
ここで扱う Kirchenbauer 方式は、この依存関係を一段前の生成過程へ移す。生成器は次の候補を選ぶ前に、検出側でも再現できる規則を使って候補を分類し、その一部を少し有利にする。完成文から「AI らしい特徴」を発見する必要はなく、生成時に仕込んだ規則と一致する選択が偶然より多く現れているかを調べればよい。人間が同じ文章を書く可能性が排除されるわけではないが、人間がその規則を知らずに文章を書けば、優遇対象へ入る回数は基準となる確率の周辺に集まる。対応した生成器が同じ方向へ小さな偏りを繰り返せば、その回数は基準から徐々に離れる。この差を文章全体で数えることで、個々の単語では見えない生成時の操作を検出する。
| 方式 | 検出する差 | 判定が成立する条件 | 主な失敗条件 |
|---|---|---|---|
| 事後検出 | 完成した文章に自然に残った、人間文と AI 文の確率的な違いを測る。 | 生成後の文章に、生成元と安定して相関する特徴が残っている必要がある。 | モデルの出力分布が人間文へ近づいた場合や、言い換えによって特徴が変化した場合に判定根拠が弱くなる。 |
| Kirchenbauer 方式 | 生成器が意図的に作った候補選択の偏りを文章全体から測る。 | 対応する生成器が埋め込み規則を使い、検出側が同じ規則を再現できる必要がある。 | ウォーターマークを使わない生成器の文章には信号がなく、大幅な編集や再生成によって埋め込まれた偏りも弱くなる。 |
この区別から、ウォーターマーク検出が答えている問いも限定できる。事後検出は、観測された文章が人間文と AI 文のどちらの分布に近いかを推定する。ウォーターマーク検出は、文章が AI によって生成されたか一般を直接判定するのではなく、「特定の埋め込み規則を使わなかったと仮定したとき、規則に整合する選択がこれほど多く偶然に生じるか」を調べる。ウォーターマークを使わない別の AI が書いた文章は、この検定では原則として検出対象にならない。反対に、ウォーターマーク付きの生成器から出た文章でも、短すぎる文章や大幅に書き換えられた文章では十分な統計的証拠を集められない。検出対象と検出可能性を分けて考える必要がある理由はここにある。
この仕組みを数理的に理解するには、完成した文章から逆算するより、透かしを入れる前の通常の生成過程から始める方がよい。言語モデルは次の語を一つに決めてから文章を書いているのではなく、現在までの文脈に応じて多数の候補へ異なる確率を与えている。その確率分布にどの程度の選択余地があり、そこへ小さな操作を加えると実際の選択回数がどう変わるかを順に追えば、ここで扱う Kirchenbauer 方式の検出式は特別な仕掛けではなく、反復された確率的な選択を数えているだけだと分かる。
2. LLM は次の言葉を一つに決める前に、候補ごとの確率を持つ
2.1 文章は一語ずつではなく、一トークンずつ生成される
ウォーターマークが操作する対象を理解するには、まず大規模言語モデルが文章を生成するとき、何を選んでいるのかを確認する必要がある。説明を単純にするため、「猫が窓の外を」まで文章ができている場面を考える。人間なら、この後には「見た」「眺めた」「見つめた」など、複数の自然な続きを考えられる。大規模言語モデルも一つの続きを最初から確定しているわけではなく、その時点の文脈に対して多数の候補を評価している。
実際の処理単位は、必ずしも日本語の一語と一致しない。大規模言語モデルは文章をトークンと呼ばれる単位へ分割して扱う。あるトークンが一語に相当する場合もあれば、一語の一部や記号に相当する場合もある。本稿でウォーターマークの数理を考えるうえでは、トークンを「モデルが次に一つ選ぶ最小の候補単位」と捉えればよい。以下では読みやすさのため、「見た」「眺めた」といった語を一つの候補として例示する。
| 候補 | 例として考える確率 |
|---|---|
| 見た | 30% の確率が割り当てられている。 |
| 眺めた | 20% の確率が割り当てられている。 |
| 見つめた | 15% の確率が割り当てられている。 |
| 気にした | 5% の確率が割り当てられている。 |
| その他 | 残りの 30% が多数の候補へ分配されている。 |
この数値は説明用の仮定だが、考えるべき構造は実際の生成と同じである。「見た」が 30% で最も高いからといって、必ず「見た」が選ばれるとは限らない。確率分布に従って候補を選ぶ生成方法なら、20% の「眺めた」や 15% の「見つめた」が選ばれる回もある。同じ入力を与えても毎回同じ文章にならないのは、モデルが一つの正解文を保持しているのではなく、複数の候補を含む分布から選択を繰り返しているためである。
ここでは、モデルが持つ確率分布と、その分布から実際に一つを選ぶ生成方法を分けて考える必要がある。同じ確率分布があっても、常に最も確率の高い候補を選ぶのか、確率に応じて候補を抽選するのか、低確率の候補をどこまで残すのかによって文章は変わる。確率の高い候補だけを追い続ける生成では、不自然な反復や単調な文章が生じることがあり、一定の確率質量に入る候補群から選ぶ方法が提案されてきた[4]。ウォーターマークは、この「候補が並び、その中から一つを選ぶ」という段階へ介入する。
2.2 条件付き確率は「ここまでの文章を前提にした次の候補」を表す
先ほどの候補表には、もう一つ重要な条件が隠れている。「見た」が 30% になるのは、どの文章でも常にそうだからではない。「猫が窓の外を」という、それまでの文脈があるからである。前の文章が変われば、同じ候補でも確率は変わる。
この関係を数式では次のように表す。
\[ P(x_t \mid x_1,x_2,\ldots,x_{t-1}) \]
数式を左から読む必要はない。まず縦線の右側にある \(x_1,x_2,\ldots,x_{t-1}\) が、それまでに生成されたトークン列である。\(t\) は生成の順番を表し、\(x_t\) はこれから選ぶ \(t\) 番目のトークンになる。縦線 \( \mid \) は「右側を条件としたとき」という意味なので、式全体は「ここまでの文章がこの並びだったとき、次に \(x_t\) が出る確率」を表している。
たとえば「日本の首都は」まで与えられれば、「東京」に非常に高い確率が割り当てられると考えられる。一方、「休日の午後、私は」の後なら、「本を読んだ」「散歩に出た」「昼寝をした」「友人に会った」など、意味の通る続きを多数作れる。候補の確率は単語固有の値ではなく、それまでに何が書かれたかによって毎回作り直される。
この性質は、後でウォーターマークの仕組みを理解するときに効力を発揮する。ウォーターマークが「特定の語を常に増やす仕組み」にならないのは、通常の生成そのものが文脈ごとに異なる確率分布を作っているからである。ある場所で自然な候補だった語が、別の場所でも同じように自然とは限らない。透かしを埋め込む処理も、この文脈ごとに作られた候補分布に対して繰り返し行われる。
2.3 選択肢の広がりを、エントロピーという考え方で捉える
次に必要なのは、候補が「何個あるか」だけではなく、確率がどのように分配されているかを見ることである。候補が 100 個存在していても、一つだけが 99% を占め、残り 99 個で 1% を分け合っているなら、実質的な選択余地はほとんどない。反対に、多数の候補へ比較的均等に確率が分かれていれば、次に何が選ばれるかは予想しにくくなる。
この違いを数量化する基本的な考え方が情報エントロピーである。Claude E. Shannon が 1948 年に定式化した情報エントロピーは、確率分布にどれだけ不確実性が残っているかを表す[5]。ウォーターマークの理解に必要なのは、その数学的な導出よりも、「結果がほぼ決まっている分布」と「複数の結果が十分あり得る分布」を数として区別できるという点である。
最も単純な二択で考えると分かりやすい。候補 A が 99%、候補 B が 1% なら、実際に選ぶ前から A が出るとかなり高い確度で予想できる。この分布には不確実性があまり残っていないので、エントロピーは低い。A と B が 50% ずつなら、どちらが選ばれるか事前には分からない。不確実性が大きいため、こちらは高いエントロピーを持つ。
| 状態 | 確率分布の例 | 生成時の性質 | ウォーターマークへの影響 |
|---|---|---|---|
| 低エントロピー | 一つの候補が 99%、残りが 1% を分け合う。 | 次の候補がほぼ決まっており、別の候補を選ぶ余地が小さい。 | 透かしのために別候補を強く優遇すると、本来の内容や正確さを壊しやすい。 |
| 高エントロピー | 複数の候補へ確率が広く分かれている。 | 自然に成立する続きが複数あり、どれが選ばれるか不確実である。 | 自然な候補の一部を少し有利にしても、意味や流暢さへの影響を抑えやすい。 |
「日本の首都は」の後で「東京」が圧倒的に有力なら、そこには透かしを入れるための自由度がほとんどない。仮に「東京」が透かし上は不利な候補へ分類されたとしても、それだけを理由に別の都市名を選ばせれば、透かしの検出力と引き換えに事実を壊してしまう。これに対して、「休日の午後、私は」の後に複数の自然な続きを選べるなら、その中の一部を少し有利にしても、文章として成立する範囲を維持しやすい。ウォーターマークの埋め込み余地は、モデルがその位置で持っている言語上の自由度に依存する。
Kirchenbauer らは、この性質を理論解析するために、通常の Shannon エントロピーとは別にスパイクエントロピーという量を導入している[1]。これは一般的な情報量を測るための指標として導入されたものではなく、ウォーターマークの解析で、確率が少数の候補へ鋭く集中している分布と、候補へ広く分散している分布を扱うための量である。確率が一つの候補へ強く集中していれば、Green 側の候補を優遇しても実際の選択結果を動かしにくい。反対に確率が広く分散していれば、小さな優遇でも選択回数へ反映されやすい。
ここまでで、ウォーターマークを入れられる場所と入れにくい場所の違いが見える。大規模言語モデルには常に同じ大きさの自由度があるわけではない。文脈によって次の候補がほぼ決まる場所と、多数の自然な候補が競合する場所があり、その局所的な確率分布に応じて、意味を壊さずに加えられる偏りの大きさも変わる。次章では、この確率分布に対して実際にどのような操作を加えれば、一語ずつは自然なまま、文章全体には検出可能な差を残せるのかを追う。
3. Green トークンを少しだけ有利にすると、文章の確率分布が変わる
3.1 候補を Green と Red に分ける
前章では、大規模言語モデルが一つの続きだけを持つのではなく、文脈ごとに多数の候補へ確率を割り当てていることを確認した。ウォーターマークは、この候補集合に対して操作を加える。説明を単純にするため、ある生成位置で候補が 100 個あり、そのうち 25 個を Green、残り 75 個を Red に分ける場合を考える。Green と Red という名称に意味上の優劣はない。Green は、その生成位置でウォーターマークを埋め込むために少し有利にする候補を示しているだけである。
全候補に占める Green の割合を \(\gamma\) と書く。100 個のうち 25 個が Green なら、
\[ \gamma = \frac{25}{100} = 0.25 \]
となる。\(\gamma\) は「全候補のうち、どれだけを優遇対象へ入れるか」を決める値である。この段階では、Green に入った候補の確率はまだ変わっていない。まず候補を二つの集合へ分け、その後で Green 側へ確率上の優遇を与える。この二段階を分けて考えると、ウォーターマークがどこで人工的な偏りを作っているのかが見えやすい。
3.2 Green は固定された単語帳ではない
Green を「透かし用の単語一覧」と理解すると、この方式の性質を取り違える。Kirchenbauer らの方式では、「東京」「自由」「猫」のような特定の語を常に Green にしておくわけではない。それまでに生成されたトークンを入力として擬似乱数的な処理を行い、次の位置でどの候補を Green にするかを決める[1]。同じトークンでも、ある文脈では Green に入り、別の文脈では Red に入る。
たとえば「猫」がある生成位置で Green だったとしても、それは「猫」という語そのものが優遇されていることを意味しない。直前までのトークン列が変われば Green と Red の分割も変わるため、別の文章では「猫」が Red になることがある。検出側は同じ規則を使って文章を先頭からたどり、それぞれの位置で「この文脈なら、どの候補が Green だったはずか」を再計算する。
この仕組みには、後半でインターネット全体を考える際にも重要な含意がある。Kirchenbauer らのウォーターマークを使ったからといって、特定の単語が一方向に増え続けるとは限らない。人工的に加えられるのは固定的な語彙選好ではなく、文脈ごとに異なる候補集合に対する選択確率の偏りである。観測すべき対象は個々の単語の頻度ではなく、「各位置で Green だった候補が、偶然から期待される回数より多く選ばれているか」という文脈依存の統計構造になる。
3.3 最初の単純案では Red を完全に禁止した
この仕組みの意味は、元論文が最初に示した単純な方式から追うと理解しやすい。最も強い方法は、候補を Green と Red に分けたあと、Red に入った候補を生成できなくすることである。元論文では、このように Red を排除する方式を出発点として検討している[1]。生成器が毎回 Green しか選ばないなら、完成した文章では Green の出現率が極端に高くなる。
Green が全候補の半分を占める単純な場合を考える。ウォーターマークを使わない生成過程で、ある位置のトークンが偶然 Green に入る確率を \(1/2\) とする。一回だけ Green になっても珍しくない。しかし、独立した選択だと単純化すれば、2 回続けて Green になる確率は、
\[ \frac{1}{2}\times\frac{1}{2}=\frac{1}{4} \]
となり、10 回続けば、
\[ \left(\frac{1}{2}\right)^{10}=\frac{1}{1024} \]
まで小さくなる。1 回ごとの結果は珍しくなくても、同じ方向への偏りが続くほど、偶然だけでは説明しにくくなる。ウォーターマーク検出の基本原理は、この単純例の段階ですでに現れている。一語に秘密の印を持たせるのではなく、反復された選択の偏りを証拠として使う。
ただし、Red を完全に禁止すると、検出しやすさと引き換えに生成内容を壊す場合がある。たとえば「Barack」の後では「Obama」が極めて自然な候補になるが、その位置で「Obama」が Red に分類されれば、強制的に別の候補を選ばなければならない。候補が多数ある文章なら代替語を選べても、固有名詞、数値、定型表現、コードのように次の候補が強く制約される場所では、選択肢を半分捨てる操作がそのまま誤りにつながる。
前章で確認したエントロピーとの関係もここに現れる。候補が広く分散している高エントロピーの場所では、一部を禁止しても自然な候補が残りやすい。確率が一つの候補へ集中した低エントロピーの場所では、その一つを禁止した瞬間に本来の生成から大きく外れる。そこで元論文の中心的な方式では、Red を排除する代わりに、Green の候補を少し有利にする。選択を強制するのではなく、確率分布をわずかに傾けることで、文章品質を保ちながら反復可能な統計信号を作る。
3.4 Green の点数へ \(\delta\) を加える
候補を「少し有利にする」操作は、確率そのものを書き換える前の段階で行う。大規模言語モデルは、各候補を確率へ変換する前にロジットと呼ばれる数値を持っている。ロジットは確率ではないが、値が大きい候補ほど最終的にも選ばれやすくなるため、ここでは「候補の相対的な強さを表す点数」と考えればよい。
生成位置 \(t\) において、候補トークン \(v\) が本来持っていたロジットを \(\ell_t(v)\) とする。ウォーターマークでは、Green に入った候補だけへ一定の値 \(\delta\) を加える。変更後のロジットは、
\[ \tilde{\ell}_t(v)=\ell_t(v)+\delta\,\mathbf{1}[v\in G_t] \]
と書ける。記号を一つずつ読むと、処理は単純である。\(G_t\) は生成位置 \(t\) で作られた Green の集合を表す。\(\mathbf{1}[v\in G_t]\) は、候補 \(v\) が Green に入っていれば 1、Red なら 0 になる。候補が Green なら、
\[ \tilde{\ell}_t(v)=\ell_t(v)+\delta \]
となり、Red なら、
\[ \tilde{\ell}_t(v)=\ell_t(v) \]
のままである。つまり、Red の候補を削除しているわけではない。本来の点数を残したまま、Green にだけ追加点を与えている。
\(\delta\) は、その追加点の大きさを決める。値を大きくすると Green が実際に選ばれる回数が増えるため、文章全体に残るウォーターマーク信号も強くなる。一方で、本来なら Red の候補が明らかに適切だった場所でも Green を押し上げる力が強くなる。検出可能性を高める操作と、本来の生成分布を維持する要求が同じ \(\delta\) を介して競合するため、透かしの強さは文章品質から独立には決められない。
3.5 点数の差は確率の差へ変換される
ロジットへ追加した \(\delta\) が実際の選択へ影響するのは、その後にロジットを確率へ変換するからである。大規模言語モデルでは、一般にソフトマックスと呼ばれる計算を使って、候補ごとのロジットを合計 1 になる確率へ変換する。ウォーターマークを加えた後の候補 \(v\) の確率を \(\tilde{P}_t(v)\) とすると、
\[ \tilde{P}_t(v)=\frac{\exp(\tilde{\ell}_t(v))}{\sum_u\exp(\tilde{\ell}_t(u))} \]
となる。分子は候補 \(v\) のロジットを正の重みへ変換した値であり、分母は全候補の重みを足した値である。各候補の重みを全体の重みで割るため、すべての候補の確率を足すと 1 になる。ソフトマックスの役割は、「候補の点数の差」を「候補が選ばれる確率の差」へ変換することにある。
Green に \(\delta\) を加えると、その候補の重みがどの程度変わるかは指数関数の性質から直接分かる。
\[ \exp(\ell+\delta)=\exp(\ell)\exp(\delta) \]
つまり、Green のロジットへ \(\delta\) を加えることは、確率へ正規化する前の重みだけを \(\exp(\delta)\) 倍する操作に相当する。たとえば \(\delta=2\) なら、
\[ \exp(2)\approx7.39 \]
なので、個々の Green 候補の正規化前の重みは約 7.39 倍になる。ただし、その候補が最終的に選ばれる確率まで 7.39 倍になるわけではない。Green の重みが増えれば全候補を合計した分母も増えるため、最終確率は他の候補との相対関係で決まる。
この違いを、意図的に単純化した例で確認する。100 個の候補があり、透かしを入れる前にはすべて同じ重みを持っているとする。そのうち 25 個が Green、75 個が Red で、\(\delta=2\) とする。元の重みを各候補 1 と置けば、Green 一個の重みは約 7.39、Red 一個の重みは 1 のままになる。Green 全体の重みは、
\[ 25e^2 \]
であり、Red 全体は、
\[ 75 \]
である。したがって、次に Green が選ばれる確率は、
\[ \frac{25e^2}{25e^2+75}\approx0.711 \]
となる。透かしを入れる前には 25% だった Green の選択確率が、この人工的に均等化した例では約 71% まで上がる。ロジットへ 2 を加えるという一見小さな操作でも、候補間に大きな差がなければ、選択回数にはかなり明瞭な偏りを作れる。
実際の大規模言語モデルでは、100 個の候補が同じ確率を持つことはない。たとえば、ある位置で Red の候補 A が他の候補より圧倒的に高いロジットを持っていれば、Green 側へ \(\delta\) を加えても A が最も高い確率を保つ場合がある。逆に、多数の候補が近いロジットを持って競合していれば、Green への追加点が順位や選択確率を大きく動かす。この差が、低エントロピーの場所ではウォーターマーク信号を入れにくく、高エントロピーの場所では入れやすいという前章の説明と直接つながる。
| 操作 | 直接起きる変化 | 生成結果への帰結 |
|---|---|---|
| 候補を Green と Red に分ける | 文脈ごとに、その位置で優遇する候補集合が決まる。 | 特定の単語を固定的に増やすのではなく、位置ごとに異なる選択規則を作れる。 |
| Green のロジットへ \(\delta\) を加える | Green 候補の正規化前の重みが相対的に増える。 | Red を排除せず、本来の候補を残したまま Green の選択率を上げられる。 |
| ソフトマックスで確率へ変換する | ロジットの差が候補間の確率差へ反映される。 | 一回の選択を強制せず、同じ方向への弱い偏りを反復できる。 |
| 確率に従って次トークンを選ぶ | Green が以前より多く選ばれる一方、Red も引き続き生成される。 | 自然さを保ちながら、文章全体で検出できる統計的な差を蓄積できる。 |
ここまでの操作だけでは、ある一語が Green だったことに特別な意味はない。透かしを使わない文章でも、偶然 Green に入る候補は選ばれる。ウォーターマークが検出可能になるのは、Green を少し有利にする操作を文章全体で繰り返し、その結果として Green の選択回数が偶然の範囲から外れていくからである。次章では、一回ごとには見えない小さな確率差が、何十回、何百回と蓄積したとき、なぜ統計的な証拠として読めるようになるのかを数値から順に確認する。
4. 一語では見えない偏りが、100 トークン集まると統計になる
4.1 一回 Green が出ただけでは何も言えない
前章では、ウォーターマークによって Green の候補が少し選ばれやすくなることを確認した。しかし、実際に一つの Green トークンを見つけただけでは、その文章に透かしが入っているとは判断できない。Green の割合を 25% に設定した場合、透かしを知らない生成過程や人間の文章でも、各位置で実際に使われたトークンが偶然 Green に入ることがある。Green 集合そのものが文脈から擬似乱数的に作られるため、透かしを知らない側から見れば、平均的には 4 回に 1 回程度 Green に当たる。
この状況は、表と裏が同じ確率で出る普通のコインを一回投げたときに表が出るのと似ている。一回の表だけを見て「このコインには表が出やすい細工がある」とは判断できない。10 回、100 回と投げて、通常ならどの程度の回数になるはずかと比較する必要がある。ウォーターマークの検出でも、個々のトークンが特殊かどうかを調べるのではなく、多数の生成位置をまとめて観測し、Green が通常より多く選ばれているかを調べる。
この違いは、ウォーターマークを「特定の印を探す技術」と考えるか、「確率的な偏りを測る技術」と考えるかの境界になる。Green であること自体は証拠にならない。透かしがないと仮定した場合に期待される回数と、実際に観測された回数との差が大きくなって初めて、生成時に同じ方向への操作が繰り返された可能性を検討できる。
4.2 100 トークンなら Green は平均 25 個になる
まず、透かしがない場合の基準を作る。100 個の生成位置を調べ、それぞれの位置で使われたトークンが Green に入る確率を 0.25 と考える。各位置の結果にはばらつきがあるが、同じ条件を大量に繰り返せば、Green の個数は平均して、
\[ 100\times0.25=25 \]
個になる。ここで使っている 25 という数は、実際の文章に必ず現れる個数ではない。「透かしによる偏りが存在しない」という仮定のもとで、多数の文章を観測したときに中心となる値である。
文章長を \(T\)、Green の割合を \(\gamma\)、文章中で実際に観測された Green トークンの個数を \(S_T\) とする。このとき、透かしがない場合に期待される Green 数は、
\[ E[S_T]=T\gamma \]
と書ける。\(E[S_T]\) は \(S_T\) の期待値を表す。期待値という名称は日常語の「期待」と少し違い、同じ確率条件の試行を何度も繰り返したときに結果が平均的にどこへ集まるかを示す。\(T=100\)、\(\gamma=0.25\) なら、その中心が 25 個になる。
ここで基準となるのは、ウォーターマーク付き文章の平均ではなく、透かしがないと仮定した場合の平均である。検出器は「Green が何個あれば AI 文章か」という固定個数を決めているのではない。文章の長さと Green の設定割合から、まず偶然だけなら何個程度になるはずかを計算し、そこから実測値がどれだけ外れたかを見る。
4.3 25 個ぴったりにならないのが普通である
平均が 25 個だからといって、透かしのない 100 トークンの文章が毎回ちょうど 25 個の Green を含むわけではない。コインを 100 回投げても表が正確に 50 回になるとは限らないのと同じで、Green の個数にも偶然による上下が生じる。22 個になる文章もあれば、29 個になる文章もある。
この揺れを無視すると、「25 個より多かったから透かし付き」といった判定になり、普通の文章まで大量に誤検出することになる。そこで、平均からの差だけでなく、透かしがなくても通常どの程度の差が生じるのかを同時に測る。
各生成位置を「Green なら 1、Red なら 0」という二択として単純化し、それぞれで Green になる確率を \(\gamma\) とすると、\(T\) 回観測した Green 数の標準偏差は、
\[ \sqrt{T\gamma(1-\gamma)} \]
で表せる。標準偏差は、平均を中心として結果が通常どの程度の幅で散らばるかを表す尺度である。\(T=100\)、\(\gamma=0.25\) を入れると、
\[ \sqrt{100\times0.25\times0.75}=\sqrt{18.75}\approx4.33 \]
となる。平均は 25 個だが、偶然だけでもそこから数個程度ずれることは珍しくないという意味である。26 個や 28 個という結果を見ても、それだけで透かしの存在を疑う根拠にはならない。
期待値と標準偏差は役割が異なる。期待値 25 は「どこを中心として考えるか」を決め、標準偏差 4.33 は「その中心からどの程度離れることなら普通に起こるか」を決める。この二つを同時に使うことで、単に Green が多いかではなく、その多さが偶然の変動として自然な範囲なのかを評価できる。
| 量 | 100 トークン、Green 率 25% の例 | 検出での役割 |
|---|---|---|
| 期待値 | Green は平均 25 個になる。 | 透かしがない場合に結果が集まる中心を示す。 |
| 標準偏差 | 約 4.33 個になる。 | 偶然だけでも平均からどの程度ずれるかを示す。 |
| 観測値 | 実際の文章から Green の個数を数える。 | 基準となる分布から実際の文章がどれだけ離れたかを調べる。 |
4.4 43 個 Green なら、普通の揺れからどれだけ離れているか
同じ条件で、100 トークン中 43 個が Green だった場合を考える。透かしがない場合の期待値は 25 個なので、観測値は期待値より、
\[ 43-25=18 \]
個多い。しかし、18 個という差だけを見ても、その大きさを評価する基準がない。文章が 100 トークンなのか 1 万トークンなのか、Green の割合が 25% なのか 50% なのかによって、自然に生じる揺れも変わるからである。
そこで、18 個という差を、先ほど求めた通常の揺れ幅 4.33 個で割る。
\[ \frac{43-25}{4.33}\approx4.16 \]
得られた 4.16 は、「観測した Green 数が、透かしなしの場合の平均から標準偏差約 4.16 個分だけ上に離れている」ことを意味する。このように、平均からの差を標準偏差で測り直した値が z 値である。
一般の場合には、
\[ z=\frac{S_T-T\gamma}{\sqrt{T\gamma(1-\gamma)}} \]
と書ける。この式も、それぞれの部分へ分ければ難しくない。分子の \(S_T-T\gamma\) は、「実際に観測した Green 数が、透かしなしで期待される数より何個多かったか」を表す。分母の \(\sqrt{T\gamma(1-\gamma)}\) は、「その条件なら偶然だけでも普通どの程度の上下が起こるか」を表す。前者を後者で割ることで、文章長や Green の割合が違っても、観測した偏りを共通の尺度で比較できる。
| 式の部分 | 意味 |
|---|---|
| \(S_T\) | 実際に文章から数えた Green トークンの個数を表す。 |
| \(T\gamma\) | 透かしがない場合に期待される Green トークンの個数を表す。 |
| \(S_T-T\gamma\) | 実測値が期待値を何個上回ったかを表す。 |
| \(\sqrt{T\gamma(1-\gamma)}\) | 透かしがなくても生じる自然な揺れの大きさを表す。 |
| \(z\) | 観測した偏りが自然な揺れ何個分に相当するかを表す。 |
z 値が必要になる理由は、Green の個数そのものでは文章間を公平に比較できないからである。100 トークン中 40 個が Green だった場合と、1000 トークン中 315 個だった場合では、単純な個数差だけを比べてもどちらが異常かは分からない。z 値へ変換すれば、それぞれを「その文章長と Green 率なら通常どの程度揺れるか」という基準に対して評価できる。
4.5 検出とは「透かしありを直接証明する」ことではない
Kirchenbauer らの検出法では、まず「この文章を作った側は Green の規則を知らず、観測された Green の多さは偶然による」と仮定する[1]。統計学では、このように検証の出発点として置く仮定を帰無仮説と呼ぶ。検出器が直接計算しているのは「この文章が AI によって生成された確率」ではない。透かしがないという仮定のもとで、観測されたほど極端な Green の偏りがどれだけ起こりにくいかを評価している。
元論文では、検出基準の例として \(z>4\) を使っている[1]。理想化した帰無仮説のもとで z 値を標準正規分布として扱うと、透かしがない文章が偶然 \(z>4\) に達する片側確率は約、
\[ 3\times10^{-5} \]
になる。およそ 0.003% である。この値は「検出した文章が 99.997% の確率で AI 生成である」という意味ではない。計算している方向は逆であり、「透かしがないという仮定が正しいなら、この基準を偶然超える確率が約 0.003% である」という意味である。この区別を崩すと、統計検定の値を生成元そのものの事後確率として読み違える。
また、この偽陽性率は理論モデルの条件のもとで得られる値である。検出対象のトークンが想定した確率構造に従い、Green 判定を十分に無作為な試行として扱えることが前提になる。現実の文章には反復や強い依存関係があるため、実装ではその前提がどこで崩れるかまで考える必要がある。
4.6 長い文章ほど、同じ弱い偏りを検出しやすくなる
ここまでの式から、文章を長くすると検出しやすくなる理由も見える。ウォーターマーク付き生成では、各位置で Green が選ばれる確率が基準となる \(\gamma\) より少し高くなる。仮に実際の Green 選択率が一定して \(q\) まで上がると考えれば、\(T\) トークンで期待される Green 数はおおよそ \(Tq\) になる。一方、透かしなしの基準は \(T\gamma\) なので、両者の個数差は、
\[ T(q-\gamma) \]
となる。文章長 \(T\) が 2 倍になれば、同じ選択率の差が続く限り、期待される個数差も 2 倍になる。
これに対して、偶然による標準偏差は、
\[ \sqrt{T\gamma(1-\gamma)} \]
なので、文章長 \(T\) そのものではなく、その平方根に比例して増える。たとえば文章長を 4 倍にすると、Green の期待個数差は 4 倍になるが、自然な揺れ幅は約 2 倍にしかならない。このため、同じ弱い偏りが持続するなら、文章が長くなるほど信号が偶然の揺れに対して相対的に大きくなる。
この関係を z 値へ入れると、平均的な検出信号は概念的には、
\[ z\approx\frac{T(q-\gamma)}{\sqrt{T\gamma(1-\gamma)}} \]
となり、\(T\) を約分すると、
\[ z\approx\sqrt{T}\,\frac{q-\gamma}{\sqrt{\gamma(1-\gamma)}} \]
と読める。細部の依存関係を無視した単純化ではあるが、長さの効果を理解するには有用である。文章が 4 倍になれば z 値はおおむね 2 倍、100 倍になればおおむね 10 倍というように、反復回数の平方根に沿って統計的な証拠が強くなる。
ウォーターマークが一語ごとに目立つ印を必要としない理由はここにある。一回の選択へ大きな変更を加える代わりに、一回ごとの小さな確率差を多数回積み重ねる。個別のトークンでは人間にも検出器にも決定的な証拠がなくても、その記録をまとめて数えれば、生成過程に継続して加えられた偏りを観測できる。
4.7 現実の文章では、同じ試行を独立に繰り返しているわけではない
ここまでの説明では、各位置で Green になるかどうかを、同じ確率で繰り返す単純な試行として扱ってきた。実際の言語は、この仮定より複雑である。次のトークンはそれまでの文脈に依存し、同じ表現が繰り返されれば同じ文脈が再び現れる。Kirchenbauer らの基本方式では過去のトークンから Green 集合を擬似乱数的に決めるため、同じ n-gram が繰り返されると、同じ位置関係のトークンが毎回同じ色として評価される[1]。
たとえば「Barack Obama」という 2-gram で、規則上「Obama」が Green になったとする。この表現が人間の文章中で何度も反復されれば、生成者がウォーターマークを知らなくても、同じ Green 判定が繰り返し加算される。単純なモデルでは、それぞれを新しい偶然の成功として数えるため、Green の個数が実際より独立した証拠として大きく見えてしまう。極端な反復文では、それが偽陽性の原因になり得る。
元論文は対策として、同じ n-gram が繰り返された場合には最初の一回だけを数え、それ以降を Green にも Red にも加えない方法を示している[1]。この修正が必要になること自体が、z 値の意味を明確にしている。数式が現実の文章を自動的に正しく判定するのではなく、「透かしがない文章なら Green の回数はこの確率構造に従う」というモデルを先に置き、そのモデルに近づくよう実際の数え方を設計している。
統計的な検出力は z 値の大きさだけで決まるのではなく、その z 値を計算するときの帰無仮説が現実にどこまで妥当かにも依存する。反復を数えない処理は細かな実装上の工夫に見えるが、偽陽性率を理論値として解釈するために必要な条件を守る役割を持つ。
4.8 実験では、理論上の偏りが実際の生成でも検出できた
元論文は、数理モデルだけでなく OPT-1.3B を使った実験で、Green の偏りが実際の生成結果からどの程度検出できるかを調べている。Green の割合を \(\gamma=0.5\)、ロジットへの加算量を \(\delta=2\) とし、C4 の RealNewsLike 部分集合から得た入力を使って約 200 トークンを生成した条件では、\(z=4\) を検出基準として、多項分布から確率的に選ぶ生成の 98.4% が検出された[1]。4 本の候補列を比較するビームサーチを使った条件では、実験上の検出率は 99.6% だった[1]。
98.4% という値は、ウォーターマーク方式に固定された普遍的な性能値ではない。この実験では文章長、\(\gamma\)、\(\delta\)、生成方法、モデル、入力データが具体的に決められている。どれかを変えれば Green の偏り方も変わるため、同じ 200 トークンでも検出率が同じになる保証はない。検出率は「何文字あれば十分か」という文章長だけの性質ではなく、一回ごとにどの程度の偏りを実際に入れられたかとの組み合わせで決まる。
元論文の失敗例もこの構造と一致している。実験では、検出できなかった文章の主要な原因として低エントロピーの生成が挙げられている[1]。次のトークンがほぼ決まっている場所では、Green 側へ \(\delta\) を加えても、本来圧倒的に強い Red 候補がそのまま選ばれることがある。その場合、文章が長くても Green の実際の選択率 \(q\) は基準の \(\gamma\) からあまり離れず、先ほどの \(q-\gamma\) が小さいままになる。反復回数だけ増やしても、蓄積する差そのものが小さければ強い z 値にはならない。
反対に、候補が複数存在する高エントロピーの場所では、Green への小さな加点が実際の選択を動かしやすい。Green の選択率が基準値から明確に離れ、その差が数十回、数百回と積み重なるため、検出器から見た信号も強くなる。前章で扱った「生成時の自由度」は、文章品質だけでなく、最終的にどれだけ強い統計的証拠を残せるかにもつながっている。
4.9 微小な差は、保存して集計できると別の性質を持つ
ここまでの数理で起きていることを、一つの文章の内部に限って整理すると単純である。各生成位置では、ウォーターマークによる確率差は小さい。一回の結果からは、透かしによる選択なのか偶然なのかを区別できない。それでも同じ方向の偏りが反復され、その結果がトークン列として保存されれば、後からまとめて数えることができる。すると、一回ごとには観測できなかった生成規則の差が、文章全体の統計量として現れる。
この性質は、単に「長文ほどウォーターマークを見つけやすい」という技術上の特徴にとどまらない。生成時に生じた差がその場で消えず、出力へ記録されることで、後の時点から過去の生成過程を推定できるようになる。ウォーターマーク検出器が読んでいるのは文章の意味ではなく、過去の多数の選択が残した統計的な履歴である。
次に考えるべき範囲は、この履歴が一つの文章だけに閉じているかどうかである。生成された文章が保存され、公開され、複製され、さらに別のモデルの学習データへ入れば、過去の選択結果を保持する媒体は一つの文書から情報環境全体へ広がる。そのとき「微小な差が反復と保存によって観測可能になる」という構造は、一つの文章を検出するための統計から、生成物が時間を越えて次の生成条件へ入り込む問題へ接続していく。
5. 透かしを強くすればよいわけではない
5.1 編集されても残るのは、印ではなく偏りの総量である
前章では、ウォーターマークの検出が一つ一つの Green トークンではなく、文章全体に蓄積した選択回数の偏りに依存することを確認した。この性質は、文章が編集された場合の振る舞いにもそのまま現れる。一部の語を置き換えたり、文を削除したりすれば、その位置に残っていた Green の判定結果は失われる。それでも、十分な数の元の選択結果が残っていれば、文章全体の Green 率は透かしなしの基準より高い状態を保ち、検出可能な z 値が残ることがある。
Kirchenbauer らの後続研究では、人間による書き換え、透かしを持たない LLM による言い換え、長い人間文の一部へ透かし付き文章を混ぜる場合などを調べている[6]。編集が強くなるほど元の Green 判定が失われ、同じ検出基準へ達するために必要な文章量も増える。一方、変更されていない部分が十分に残る条件では、元の生成過程に由来する統計信号を検出できる場合がある。
この挙動から、ウォーターマークの頑健性がどこから生まれるかを区別できる。各トークンに消去不能な印が付いているから編集に耐えるのではない。一部の観測点を失っても、残った多数の観測点から同じ方向の偏りを集計できるため、一定量の編集に耐えられる。反対に、言い換えや再生成によって元の選択結果が十分に置き換われば、検出器が集計できる履歴も失われる。頑健性は個々の記号の保存ではなく、統計的な冗長性から生じている。
5.2 生成の自由度が低い場所では、信号と内容が競合する
ウォーターマークの検出力を上げる最も単純な方法は、Green をより強く選ばせることである。しかし、前章までの数理から分かるように、Green の選択率を上げる操作は本来の確率分布から生成結果を動かす操作でもある。その影響は、すべての文脈で同じではない。
「日本の首都は」の後で「東京」が圧倒的に高い確率を持つ場合を考える。その位置で「東京」が Red に分類されたとしても、文章の正確さを保つなら「東京」を選ぶ必要がある。Green の加点を極端に大きくして別の候補を勝たせれば、Green 率は上がるが事実を壊す。反対に、「休日の午後、私は」のように複数の自然な続きが存在する場所なら、Green 側の候補へ確率を移しても、意味や流暢さを大きく損なわずに済む。
元論文で低いスパイクエントロピーの文章に検出失敗が集中したのは、この構造による[1]。学習データに含まれていた文章をほぼそのまま再現する場合のように、次の候補が強く決まっている生成では、Green の加点より元の候補確率が支配的になる。文章が 200 トークンあっても、各位置で Green の選択率を十分に押し上げられなければ、前章で置いた \(q-\gamma\) が小さいままになり、長さに見合う統計信号は蓄積しない。
この制約は Kirchenbauer 方式だけの特殊事情でもない。Kuditipudi らは、生成される文章の分布を保ちながら検出可能な相関を作る方式を提案しているが、指示への短い応答など、もともとの出力エントロピーが低い条件では検出が難しくなることを報告している[7]。方式を変えて分布変形を抑えても、モデルに選択余地そのものがなければ、外から観測できる信号を埋め込む自由度も小さくなる。
透かしの強さを一つのパラメータだけで評価できない理由はここにある。同じ設定でも、自由度の高い文章では強い信号を残せる一方、事実、固有名詞、数式、コード、定型句のように候補が制約される領域では、内容を守ることと信号を強めることが直接競合する。検出力はウォーターマーク方式の性能だけでなく、生成対象がどの程度の選択余地を持つかによって決まる。
5.3 ウォーターマーク一般を「確率分布の歪み」と同一視できない
Kirchenbauer 方式では、Green のロジットへ \(\delta\) を加えるため、その生成位置における条件付き確率分布を意図的に変更する。第 3 章で見たように、元の Green 率が 25% でも、候補の重みが均等な単純例なら \(\delta=2\) によって Green の選択率は約 71% まで上がる。この方式では、検出信号を作ることと分布を動かすことが同じ操作になっている。
しかし、この性質をウォーターマーク一般へ広げることはできない。Kuditipudi らは、元の生成分布を保ちながら秘密の系列との相関を作り、その相関から出自を検出する方式を設計している[7]。Hu らも、秘密の乱数について平均したときに元の出力分布を保つ不偏ウォーターマークを提案している[8]。どちらも、特定の候補群へ恒常的な確率上の優遇を与えることをウォーターマークの必要条件とはしていない。
ここで区別すべきなのは、「出力分布をどのように変更するか」と「生成結果から秘密の生成規則を統計的に検出できるか」である。Kirchenbauer 方式では両者が直接結び付いているが、後者を実現する方法はそれだけではない。後半でインターネット全体の分布を考える際にも、この区別を保つ必要がある。ウォーターマークの存在だけから、特定の語彙や表現が Web 全体で一定方向へ増えるとは言えない。
一方で、方式の違いを越えて残る性質もある。生成時に秘密の規則を導入し、その規則と出力との間に後から検出可能な統計関係を作れるという点である。固定的な語彙偏向であれ、分布を平均的に保つ相関であれ、完成した文章には生成過程についての情報が残り得る。本稿の後半で必要になるのは、このより限定された性質である。
5.4 透かしは復号時の外付け処理に閉じるとは限らない
Kirchenbauer 方式を実装だけから見ると、通常の言語モデルが出したロジットへ生成時に補正を加えるため、ウォーターマークはモデル本体とは別の後処理に見える。しかし、特定の生成傾向を持つ文章を大量に教師データとして与えれば、その傾向自体を別のモデルが学習する可能性がある。
Gu らは、ウォーターマークを使って出力する教師モデルから生成例を作り、その出力を使って生徒モデルを学習させることで、復号時に同じ外付け処理を行わなくてもウォーターマークの性質を持つ出力を生成させられる条件を調べている[9]。生成規則として外部から与えた偏りが、学習を介してモデルのパラメータへ移り得ることを示す結果である。
ここで「ウォーターマークがそのまま次のモデルへコピーされる」と一般化することはできない。学習に使う文章量、モデル構造、学習方法、ウォーターマーク方式によって結果は変わる。それでも、生成時に加えた規則と学習されるモデルを完全に独立した層として扱えないことは分かる。出力された文章が次の学習データになれば、過去の生成器が作った選択傾向が、後続モデルの振る舞いを変える経路が生まれる。
この経路は後半の議論へ直接つながる。一つの文章に残った透かしを検出するだけなら、生成器から文章までを見れば足りる。生成物が別のモデルの学習へ使われる場合には、生成器、文章、学習データ、後続モデルまでを一つの時間的な連鎖として見る必要が出てくる。
5.5 頑健であることと、消去不能であることは違う
編集後にも検出できる条件があるからといって、ウォーターマークを暗号学的な電子署名と同じように扱うことはできない。電子署名では、署名対象が一部でも変更されれば検証失敗として明確に扱える。言語モデルのウォーターマークが守ろうとしている対象は異なる。文章の意味や品質を保ったまま言い換えが可能な自然言語に、ある程度の編集後でも検出できる統計信号を残そうとしている。
この要求には根本的な緊張がある。文章の品質を維持したまま意味の近い別表現へ自由に変換できるなら、攻撃者もその自由度を使って元の統計構造を消せる可能性がある。逆に、どのような言い換えをしても信号が残るほど生成可能な表現を強く制約すれば、今度は自然な文章を生成できる範囲そのものが狭くなる。
Zhang らは、この関係を理論的に調べ、自然な仮定のもとでは、文章品質を保ちながら効率的な攻撃者による除去に耐えるという強い意味でのウォーターマークに限界があることを示している[10]。これは、実用的なウォーターマークが無意味だという結論ではない。一定量の編集、コピー、部分的な言い換えに耐える頑健性と、どのような変換を受けても失われない不変性は別の要求だということである。
| 論点 | 確認できる性質 | 境界となる条件 |
|---|---|---|
| 編集への耐性 | 元の選択結果が十分に残れば、編集後にも統計信号を検出できる場合がある。 | 置換や再生成が進み、元の Green 偏りが十分に失われれば検出できなくなる。 |
| 生成の自由度 | 複数の自然な候補がある場所では、内容への影響を抑えながら信号を入れやすい。 | 候補がほぼ一つに決まる低エントロピーの場所では、検出力と正確さが競合する。 |
| 出力分布 | Kirchenbauer 方式では Green の優遇によって条件付き分布を変える。 | 不偏型や分布を保つ方式もあり、分布変形はウォーターマーク一般の必要条件ではない。 |
| 学習による継承 | 透かし付き出力を教師データとして使い、生成傾向をモデルへ学習させられる条件がある。 | 方式、データ量、学習方法が変わっても同じ信号が無条件に残るわけではない。 |
| 頑健性 | 特定の編集や攻撃を受けても検出信号を残せる方式を設計できる。 | 自然言語を自由に言い換えられる条件まで含めた消去不能性には理論的な限界がある。 |
5.6 前半から確定できるのは、文章に生成過程の履歴を残せるということである
ここまでの議論から、ウォーターマークについて二つの過剰な理解を退けられる。一つは、透かしを強くするほど常に優れた方式になるという理解である。信号を強める操作は、低エントロピーの場所では内容の正確さと衝突し、編集耐性を高める要求は自然な言い換え可能性と衝突する。もう一つは、ウォーターマークなら必ず特定方向へ文章分布を歪めるという理解である。実際には、出力分布を保ちながら検出可能な相関を作る方式も存在する。
それでも、前半全体を通して残る事実がある。文章の意味内容だけでは決まらない選択余地を利用して、生成規則と完成したトークン列の間に後から検出可能な関係を作れることである。Kirchenbauer 方式では、その関係が Green の選択回数という明瞭な偏りとして現れる。別方式では異なる統計量を使うとしても、生成時に行われた処理についての情報を出力から読み返せるという構造は共通している。
この意味で、文章は内容を運ぶ媒体であると同時に、その文章がどのような生成過程を通ったかについての履歴を保持する媒体にもなり得る。履歴は永続的とは限らず、編集によって薄まり、再生成によって失われる場合もある。それでも保存されている間は、後の時点から過去の生成規則を統計的に推定できる。
ここから論点の尺度が変わる。一つの文章がローカルに保存されるだけなら、その履歴を読む対象も一つの文書に限られる。生成された文章が公開され、複製され、検索対象となり、さらに将来のモデルが学ぶデータへ入れば、過去の生成結果を保持する場所は個々の文書から情報環境へ広がる。次章では、生成時の確率差がトークン列へ固定された瞬間を起点として、差が保存されることと、後の状態を変える履歴になることの関係を考える。
6. 統計的な差は、保存された瞬間に履歴になる
6.1 生成時の出来事は、保存されなければ後から観測できない
一つのトークンが Green だったという事実は、生成された瞬間には一回の選択結果にすぎない。モデル内部では、その直前に多数の候補へロジットが与えられ、Green 側へ補正が加えられ、確率分布から一つのトークンが選ばれている。しかし生成が終われば、その時点の候補分布や乱数状態を外部から直接観察できるとは限らない。後に残るのは、最終的に選ばれたトークン列である。
このトークン列が保存されると、過去の出来事の性質が変わる。生成時には一度きりだった選択が、ファイル、投稿、記事、ログなどの記録として固定され、別の時点から繰り返し参照できるようになる。100 トークンの文章なら、100 回の選択結果が同じ順序を保ったまま残る。過去そのものへ戻ることはできなくても、過去が残した結果を未来から調べることはできる。
Kirchenbauer 方式の検出器が利用しているのも、この時間差である。検出器は生成時のロジットを保存しておく必要がない。保存された文章を先頭からたどり、それまでのトークン列から各位置の Green 集合を再計算し、実際に選ばれたトークンが Green だったかを数える。第 4 章で扱った z 値は、現在残っているトークン列から、過去に同じ方向の確率操作が繰り返されていた可能性を評価するための統計量である。
6.2 検出器が読んでいるのは過去の内部状態ではなく、その結果に残った差である
ここには、記録と推論の区別がある。保存された文章の中に、生成時のロジットや「この位置では Green を優遇した」という説明文が書き込まれているわけではない。残っているのは、どの候補が実際に選ばれたかという結果だけである。それでも、生成時に使われた規則を知っていれば、選択結果の集団から過去の生成過程について推論できる。
たとえば 100 トークン中 43 個が Green だった場合、文章に「ウォーターマークあり」という文字列が埋め込まれているわけではない。検出器は、透かしがなければ平均 25 個程度になるという基準と、実際の 43 個という結果を比較する。さらに偶然による揺れ幅を考慮し、その差が標準偏差何個分に当たるかを計算する。現在観測できるのは 43 個という結果であり、そこから過去の確率操作を逆向きに推定している。
この構造は、既稿「意味は差異の読み取りから生まれる」で整理した、差異が保存され、後から読み取られ、その読み取り結果が主体や実行系の更新へ接続される連鎖と重なる[11]。Kirchenbauer 方式では、生成器が Green と Red の選択確率に差を作り、その差がトークン列へ反映され、検出器が保存された列から差を再構成する。差は生成された時点だけに存在するのではなく、結果へ固定されることで後の処理対象になる。
ここで保存だけでは判断は生じないことにも注意が必要になる。トークン列がディスクに残っているだけなら、それは記録である。検出器が規則を再現し、Green の個数を集計し、帰無仮説と比較して初めて、「この文章には特定の生成規則に由来する偏りが残っている」という判断が成立する。保存は過去の差を未来へ運び、読み取りはその差を現在の判断へ変換する。
6.3 履歴は、過去を保存するだけでなく、未来の処理条件を変える
既稿「時間はなぜ一方向に進むのか」では、出来事が物理的な記録として残ることで、後の状態から過去を参照できるようになる構造を扱った[12]。ウォーターマークにも同じ非対称性がある。生成時の確率分布は一時的だが、そこから選ばれたトークン列は保存できる。未来の検出器は過去の内部状態を直接観測できない一方、保存された結果を使って過去について推論できる。
この関係は、単に「昔の文章を後から読める」という話にとどまらない。保存された記録が後の処理に使われれば、過去の選択結果が未来の状態へ因果的に作用する。検出器が文章を分類すれば、その分類結果によって投稿を表示するか、学習データへ入れるか、追加確認を求めるかといった後続処理が変わり得る。過去の生成結果は、保存されたことによって現在の判断材料となり、その判断を介して未来の処理経路を変える。
この流れを最小限に書けば、
\[ \text{確率差} \rightarrow \text{選択} \rightarrow \text{トークン列} \rightarrow \text{保存} \rightarrow \text{読み取り} \rightarrow \text{後続処理} \]
となる。第 3 章では確率差が一回の選択をどう変えるかを見た。第 4 章では、その差が反復されると統計量として観測できることを見た。本章ではさらに、その統計量を計算できるのは選択結果が保存されているからであり、読み取られた履歴が後の処理へ接続されることで、過去の生成が未来へ作用することを確認している。
6.4 Web に保存されると、履歴の利用主体が生成者の外へ広がる
保存先が個人の端末だけなら、この履歴を利用できる主体と影響範囲は限定される。生成者がファイルを削除すれば、その記録はそこで失われる可能性が高い。公開された Web では条件が変わる。文章は閲覧されるだけでなく、複製、引用、転載、検索索引への登録、アーカイブ、データ収集などを通じて、生成者が直接管理しない場所にも残り得る。
この変化によって、保存された文章の役割も増える。人間にとっては読解や引用の対象であり、検索システムにとっては索引化する文書であり、機械学習システムにとっては収集可能な訓練資料の候補にもなる。同じトークン列が、異なる主体によって異なる目的で再利用される。生成時には一つのモデル内部にあった選択結果が、公開後には複数のシステムが参照できる外部記録へ変わる。
ここで、一つの文章の内部に閉じていたウォーターマークの問題が、情報環境の問題へ移る。文章が保存されるだけなら、過去の生成過程を後から検出できるという範囲にとどまる。その文章が将来の学習データとして使われれば、保存された過去は観察対象であるだけでなく、次のモデルを作る入力になる。過去の生成結果が未来の生成器を変える経路が、ここで初めて成立する。
前半で扱ったウォーターマークは、この経路そのものを作った技術ではない。生成された文章が Web へ残り、再利用される構造はウォーターマークがなくても存在する。ウォーターマークが与えるのは、その経路を追跡するための人工的な差である。どの時点で加えられた差が、どこまで保存され、どの処理を通過した後にも観測できるのかを調べられるため、通常は見えにくい生成物の時間的な伝播を具体的な測定対象へ変えられる。
次章では、保存された文章が Web 上の一資料として終わらず、将来のモデルが学ぶデータへ再び入る場合を考える。そこで生成 AI とインターネットの関係は、「既存の Web をモデルが読む」という一方向の関係から、「モデルが Web へ書き込み、その Web を次のモデルが読む」という循環へ変わる。
7. インターネットは出力の終点であると同時に、次の学習の入口でもある
7.1 Web からモデルへ、という一方向の図では足りなくなった
大規模言語モデルの学習だけを切り出して見ると、情報の流れは単純に描ける。Web 上に存在する文章を収集し、学習用のデータへ加工し、そのデータからモデルを作る。
\[ \text{Web} \rightarrow \text{学習データ} \rightarrow \text{モデル} \]
この図では、Web はモデルより前に存在する外部環境であり、モデルはそこに蓄積された文章を観測する側にいる。学習対象と学習主体が分かれているため、新しいモデルを作ること自体は、過去の学習対象を書き換えない。ある時点の Web を固定して考える限り、この見方で大きな矛盾は生じない。
生成 AI が広く利用され、その出力が Web へ公開されると、この前提が変わる。モデルは既存の Web を読むだけでなく、新しい文章を Web へ供給する。生成物が公開された後も残り、後のデータ収集対象になれば、情報の流れは、
\[ \text{Web} \rightarrow \text{モデル} \rightarrow \text{生成物} \rightarrow \text{Web} \]
と閉じる。右端の Web は、左端の Web と同じではない。そこには人間が新しく書いた文章に加えて、直前まで左側にいたモデルの出力も含まれている。モデルは外部環境を参照するだけの存在から、自らが後に参照される環境の構成要素を作る存在へ変わる。
7.2 循環には、同じモデルが自分を学び直す必要はない
この循環を「モデルが自分自身の文章を再学習すること」とだけ捉えると、実際の経路を狭く見積もることになる。世代間の接続に必要なのは、同一モデルによる自己再学習ではない。あるモデルが生成した文章が公開され、その文章を別の時点に別の組織が収集し、別のモデルの学習へ使えば、過去の生成結果はすでに次世代の学習条件へ入っている。
たとえば、モデル A が 2026 年に大量の解説記事を生成し、それが多数の Web サイトへ公開されたとする。数年後、モデル B の開発者が公開 Web を収集すれば、そのデータ集合にはモデル A の文章が混ざる可能性がある。モデル B がモデル A の存在を知らず、データの生成元も識別していなくても、この経路は成立する。
因果は二段階に分けられる。第一に、モデル A の生成結果が公開されることで、Web 上に存在する文章の構成が変わる。第二に、モデル B がその変化後の Web を学習することで、モデル A の選択結果がモデル B のパラメータ形成へ間接的に作用する。二つのモデルの間に直接通信がなくても、Web が中間媒体となれば過去の生成結果は時間を越えて伝わる。
この意味で、Web は単なる公開場所ではない。生成物を一時的に表示する場所であると同時に、異なる時点のモデルを接続する共有記憶として働き得る。第 6 章で一つの文章について確認した「保存された過去が後の処理条件になる」という関係が、ここでは Web 全体の規模へ広がる。
7.3 学習対象が、モデルから独立した世界ではなくなる
Taori と Hashimoto は、モデルとの相互作用によって生まれたデータが将来の学習データへ戻る構造をデータ・フィードバックループとして定式化し、モデルが持つ偏りが後続データの形成を介して増幅され得る条件を分析している[13]。この研究の射程はウォーターマークに限らず、画像分類、視覚的役割ラベリング、言語生成など、モデルの出力が次に観測されるデータの構成そのものを変える系に及ぶ。
固定された学習データから一度だけモデルを作る場合、モデルの誤差や偏りは出力側に現れても、元の学習分布そのものは変わらない。フィードバックループが成立すると、モデルの出力が人間の選択や公開データを変え、その変化後のデータを次のモデルが学ぶ。モデル内部の偏りが一度外へ出て、環境側の偏りへ変換され、その環境を介して次のモデルへ戻る。
言語生成では、この構造が文章そのものを媒体として成立する。あるモデルが特定の言い回し、説明順序、語彙、知識上の誤り、あるいはウォーターマークのような人工的な統計構造を持つ出力を大量に作れば、その生成結果は公開データの一部になる。後続モデルがそれを学習したとき、観測しているのは独立した外部世界だけではなく、過去のモデルがすでに加工した記録でもある。
この違いは、「新しい Web データを集めれば、新しい現実を追加できる」という見方を条件付きにする。Web 上で新しく公開された文章が時間的には新しくても、その内容まで独立した新規観測とは限らない。過去のモデルが生成した文章の転載、要約、言い換え、再生成であれば、公開時刻は新しくても情報源としては過去の生成系へ戻る。
| 段階 | 一方向の学習として見た場合 | 生成と再学習の循環を含めた場合 |
|---|---|---|
| 学習前の Web | モデルとは独立して蓄積された外部の文章集合として扱える。 | 人間の記録に加えて、過去のモデルが生成した文章やその派生物を含み得る。 |
| モデル生成 | 既存の情報環境から学んだ結果を出力する段階で処理が終わる。 | 生成物が公開されることで、後のモデルが観測する情報環境の構成を変える。 |
| 次世代の収集 | 新しく公開された文書を追加すれば、より新しい世界を観測できる。 | 公開時刻が新しくても、内容の一部は旧世代モデルの出力に由来し、独立した新規観測とは限らない。 |
| 次世代の学習 | 外部世界から得たデータによって新しいモデルが形成される。 | 外部世界と過去のモデル出力が混在した分布によって、新しいモデルが形成される。 |
7.4 循環があることと、劣化することは同じではない
モデル出力が次の学習データへ入る経路があるからといって、その時点で性能劣化や分布崩壊が決まるわけではない。人間の文化も、過去の文章を引用し、模倣し、批評し、修正しながら新しい文章を作ってきた。過去の記録が未来の記録へ影響すること自体は、生成 AI に固有の現象ではない。
差が生じるのは、循環へ入る生成量と処理速度、そして同じ種類の統計モデルが生成側と再学習側の両方に参加できることである。一人の著者が過去の文献を読んで一冊を書く場合と、一つのモデルが短時間に膨大な文章を生成し、その一部が機械的に収集されて次世代モデルへ戻る場合では、情報環境へ与える量的な作用が異なる。大量生成によって過去のモデル出力が収集データ内で無視できない割合になれば、次世代モデルが観測する分布も変わる。
さらに、人間による再利用では、引用、批判、検証、経験による修正などを通じて、元資料とは独立した情報が途中へ入り得る。生成から再学習までが自動化されるほど、この外部から入る差がどの程度残るかが別の変数になる。循環の存在だけで良否を決めるのではなく、循環の途中で新しい観測がどれだけ入り、過去の生成結果がどの割合で再利用されるかを見る必要がある。
ここで第 5 章まで扱ってきたウォーターマークが別の役割を持ち始める。ウォーターマークは、この循環を発生させる原因ではない。過去の生成物が次の学習へ入り得るという経路は、透かしがなくても存在する。しかし、生成時に既知の統計信号を付けておけば、その信号が学習という境界を越えた後にも残るかを調べられる。通常は見えにくい「過去のモデルから未来のモデルへ何が伝わったか」を、人工的な差を使って追跡できる可能性が生まれる。
次章では、この使い方を具体的に見る。ウォーターマークを文章の出自を示す印としてだけでなく、生成、公開、学習という経路を通った情報が次世代モデルへどこまで残るかを測るトレーサーとして見ると、インターネット上の循環を一段具体的に観測できる。
8. ウォーターマークをトレーサーにすると、世代を越える経路が見える
8.1 既知の差を入れると、見えない伝播を追跡できる
ある物質が川の中をどの経路で移動するかを調べたいとき、水そのものを一滴ずつ追跡することは難しい。そこで、自然にはほとんど存在しない追跡可能な物質を上流へ少量加え、下流のどこで、どの濃度で検出されるかを測る方法がある。調べたいのは投入した物質そのものではなく、その物質を目印として水の移動経路を知ることである。
ウォーターマークにも、これと似た使い方ができる。もともとの目的は、生成された文章から特定の生成規則に由来する統計信号を検出し、AI 生成文の出自を識別することにある。しかし、生成時に意図的な信号を入れ、その信号の性質をあらかじめ知っているため、文章が別のモデルの学習データへ入った後にも、その影響が残っているかを調べられる。通常の文章だけを使った場合には、後続モデルの性質のうち何が過去の生成物に由来するのかを切り分けにくい。最初から既知の差を入れておけば、その差と相関する変化を追跡対象にできる。
このとき、ウォーターマークは「AI 生成文であることを示す印」という用途を越えて、生成物が学習を介して次のモデルへどこまで影響したかを調べるトレーサーになる。第 6 章では、一つの文章に保存された統計的履歴を後から読み取れることを確認した。第 7 章では、その文章が Web を介して別のモデルの学習データへ入る経路を確認した。本章で見るのは、その二つを接続したとき、過去の文章に付けた人工的な差を後続モデルから実際に検出できるかという問題である。
8.2 文章にあった信号が、学習後のモデルから検出された
Tom Sander らは、この現象を「放射性」という比喩で表し、ウォーターマーク付きの合成文章を学習データに含めたモデルから、元のウォーターマークに対応する統計的な痕跡を検出できるかを調べた[14]。ここで検出対象になるのは、学習データとして使われた個々の文章ではない。学習が終わった後のモデルに入力を与えて新しい文章を生成させ、その出力が元のウォーターマーク規則とどの程度相関しているかを測る。
この実験では、学習データの一部だけがウォーターマーク付きでも残留信号を検出できる条件が確認されている。公開重みのモデルを使った条件では、学習に用いた指示文のうちウォーターマーク付きデータが約 5% の場合にも、\(p<10^{-5}\) となる統計的な確信で混入を検出できた例が報告されている[14]。残りの大部分が透かしのないデータであっても、学習されたモデルの出力分布に測定可能な差が残る場合があることになる。
この結果を、第 4 章で扱った一つの文章の検出と区別する必要がある。第 4 章では、ウォーターマーク付きモデルが直接生成した文章から Green の偏りを数えた。本章の実験では、その文章群を別のモデルが学習した後に、後続モデル自身が新たに生成した文章から信号を探している。検出対象の間には学習という処理が一段挟まっている。
経路を簡略化すると、
\[
\text{最初のモデル}
\rightarrow
\text{ウォーターマーク付き文章}
\rightarrow
\text{学習データ}
\rightarrow
\text{後続モデル}
\rightarrow
\text{新しい生成文}
\]
となる。最初の文章と最後の文章は同一ではない。それにもかかわらず、最後の生成文を統計的に調べることで、途中の学習データに特定のウォーターマーク付き文章が含まれていた痕跡を検出できる条件がある。文章として保存されていた差が、学習を介してモデルの振る舞いへ移ったことを示している。
8.3 伝わるのは元の文章ではなく、文章によって生じた学習上の傾向である
この現象を「ウォーターマークがモデルの中へそのままコピーされた」と考えると、学習で何が起きているかを取り違える。後続モデルが保持しているのは、元の文章ファイルや、最初のモデルが各生成位置で使ったロジットの値ではない。大量の学習例に対して予測誤差を小さくするようパラメータが更新され、その更新結果として、ウォーターマーク付き文章に含まれていた統計的な傾向の一部が後続モデルの条件付き確率分布へ反映される。
第 3 章の Green ウォーターマークで考えると、最初のモデルは各生成位置で Green 側の候補を少し選びやすくしていた。その結果、学習用文章には、文脈と次トークンの組み合わせについて人工的な偏りが生じる。後続モデルは「これはウォーターマークである」と理解して学習するわけではない。通常の言語データと同じように、与えられた文脈の後にどのトークンが現れたかを学ぶ。そのデータ中で特定の規則に沿った選択が通常より多ければ、その頻度差が学習更新へわずかに反映され得る。
因果関係は二段階になる。第一に、ウォーターマークが最初のモデルの選択確率を変え、その変更が学習用文章のトークン分布へ残る。第二に、後続モデルがその文章を学習することで、その分布差がモデルのパラメータ更新へ作用する。最初のロジット補正そのものが移動するのではなく、補正によって生まれたデータ上の差が学習を媒介として新しい確率分布へ変換される。
この区別によって、第 5 章で扱った「モデル自身にウォーターマーク付き生成を学ばせる」研究との関係も整理できる。生成時の外付け処理で作った傾向が文章へ現れ、その文章を訓練例として使うことで、同じ種類の傾向が後続モデルの出力へ現れる場合がある。出力は単なる最終結果ではなく、次の学習系から見ればパラメータ更新を引き起こす入力でもある。
8.4 5% で検出できたことを、普遍的な継承率とは読めない
約 5% の混入でも検出できたという結果は、ウォーターマークの痕跡がどのモデルにも同じ割合で残ることを意味しない。残留信号の強さは、元のウォーターマーク方式、学習データに占める透かし付き文章の割合、文章数、学習率、微調整の方法、基盤モデルの性質、検出時にモデルの内部確率へアクセスできるかなど、複数の条件に依存する[14]。
さらに、学習後のモデルが元と同じウォーターマーク生成器になるわけでもない。元モデルでは明示的な規則によって Green のロジットへ補正を加えていたとしても、後続モデルにはその処理が実装されていない場合がある。観測されるのは、元の規則と弱く相関する出力傾向である。信号がさらに別の学習を受ければ弱まる可能性もあり、複数の異なる生成元から作られたデータが混ざれば、単一の規則に由来する偏りは希釈される。
「放射性」という名称も、この限定を外して読むべきではない。物理的な放射性物質のように、いったん学習すれば一定の崩壊則に従って永久に追跡できるという意味ではない。実験が示したのは、既知の統計信号を持つ文章が学習へ入った後、一定の条件では後続モデルからその痕跡を統計的に検出できるということである。
| 段階 | 保持されるもの | 失われ得るもの |
|---|---|---|
| 最初の生成 | ウォーターマーク規則によって選択確率に既知の偏りが作られる。 | 生成終了後には、その時点のロジットや乱数状態が文章だけから直接保存されるわけではない。 |
| 文章として保存 | 偏りによって実際に選ばれたトークン列が記録として残る。 | 編集や言い換えによって、元の統計信号の一部または全部が失われ得る。 |
| 後続モデルの学習 | 学習データに含まれる頻度や条件付き分布の差がパラメータ更新へ作用し得る。 | 元のウォーターマーク処理そのものがモデルへ複製されるとは限らない。 |
| 後続モデルの生成 | 条件によって、元のウォーターマーク規則と相関する弱い出力傾向が現れる。 | 追加学習、異種データとの混合、生成条件の違いなどによって信号は薄まり得る。 |
8.5 ウォーターマークが可視化したのは、情報が学習境界を越えることである
この研究の意味をウォーターマーク技術だけに閉じると、「学習データへ透かし付き文章を混ぜれば後から検出できる」という用途説明になる。しかし、本稿の論点に引き寄せると、もう一段広い構造が見える。生成時に生じた人工的な差が、文章として保存され、別のモデルの学習を経た後にも統計的な痕跡として観測された。つまり、情報の伝播は文書のコピーだけで終わらず、学習という変換を越えてモデルの生成傾向へ到達し得る。
ウォーターマークがなくても、この経路自体は存在する。各モデルの出力には、学習データの構成、調整方法、生成方法、モデル固有の近似誤差などに由来する無数の傾向が含まれる。その文章が次の学習データへ入れば、それらの傾向も何らかの形で学習へ作用し得る。ただし通常は、どの特徴が前世代モデルに由来し、どの特徴が人間の文章や別のデータ源に由来するのかを分離しにくい。
ウォーターマークは、その中へ由来が分かっている人工的な差を一つだけ入れる。最初に何を加えたかが既知なので、後続モデルで同じ方向の信号が検出されたとき、その経路について統計的な検証ができる。この意味でウォーターマークは、インターネットと生成モデルの間で起きる情報循環を作る原因ではなく、通常は混ざり合って見えない世代間伝播の一部を測定可能にするトレーサーとして機能する。
第 7 章では、Web を介して過去のモデル出力が未来の学習データへ入り得るという経路を構造として示した。本章では、その経路を通った既知の統計信号が、実際に後続モデルから検出できる条件が示されていることを確認した。次に必要なのは、この経路を一回の実験から世代を重ねる系へ拡張することである。ある時点の生成物が次のモデルへ入り、そのモデルの生成物がさらに次の学習データへ入るなら、過去の生成結果が未来の生成条件へ戻る関係を時間発展として記述できる。
9. 一回の生成モデルを、世代をまたぐ数理モデルへ広げる
9.1 まず 100 件の文書を二種類に分ける
第 8 章までは、一つのモデルが文章を生成し、その文章が別のモデルの学習へ入る経路を見てきた。ここからは時間を一世代だけで止めず、同じ経路が繰り返されたときに何が起こるかを考える。ただし、現実のインターネットには人間の文章、AI 生成文、引用、転載、翻訳、要約、データベース、プログラムなどが混在しており、その全体を一つの式へ忠実に写すことはできない。そこで、最初は「外部から新しく入るデータ」と「過去の AI 生成に由来するデータ」の二種類だけに分けた概念モデルを作る。
ある時点 \(t\) に、次世代モデルの学習へ使う文書が 100 件あるとする。そのうち 80 件は、人間が新しく書いた記録、測定結果、現実の出来事についての報告など、過去の生成モデルとは独立した経路から入ってきたものとする。残り 20 件は、過去の AI が生成した文章である。この場合、AI 生成文が学習データに占める割合は 20% なので、
\[ \alpha_t=0.2 \]
と書ける。添字の \(t\) は時点を表す。同じインターネットでも、AI 生成文の割合が将来も 20% のままとは限らないため、割合そのものを時間によって変わる量として扱っている。
次に、文書そのものではなく「どのような文章がどの程度現れやすいか」という分布を考える。時点 \(t\) における外部由来の文章分布を \(R_t\)、過去のモデルが生成した文章の分布を \(S_t\)、実際に次世代モデルが学習する全体の分布を \(D_t\) とする。80% と 20% を混ぜる関係は、
\[ D_t=(1-\alpha_t)R_t+\alpha_tS_t \]
と書ける。
この式で文章そのものを足し算しているわけではない。100 件の箱を想像すると分かりやすい。80 件は \(R_t\) という箱から取り、20 件は \(S_t\) という箱から取る。その混合後の 100 件全体が \(D_t\) である。より一般的には、「学習データから無作為に一件選んだとき、確率 \(1-\alpha_t\) で外部由来の分布から来ており、確率 \(\alpha_t\) で AI 生成分布から来ている」という意味になる。
\(\alpha_t=0\) なら、
\[ D_t=R_t \]
となり、学習データはすべて外部由来である。反対に \(\alpha_t=1\) なら、
\[ D_t=S_t \]
となり、新しく学ぶものはすべて過去の AI 生成に由来する。この二つは両極端であり、現実にはその間の値を取る。後で問題になるのは AI 生成文が存在するかどうかという二択ではなく、\(\alpha_t\) がどの程度であり、外部由来の \(R_t\) がどのような内容を持ち続けるかである。
| 記号 | 意味 | 誤解しやすい点 |
|---|---|---|
| \(R_t\) | 時点 \(t\) に外部世界や人間の活動から入る文章の分布を表す。 | 人間が書いたという属性だけではなく、過去の生成モデルとは独立した観測や経験を含む側として単純化している。 |
| \(S_t\) | 過去のモデルによって生成された文章の分布を表す。 | 一つのモデルや一種類の文章だけを意味せず、複数の生成系をまとめた概念上の分布として扱っている。 |
| \(\alpha_t\) | 学習データ全体に占める AI 生成側の割合を 0 から 1 までの値で表す。 | AI の普及率そのものではなく、実際に収集、選別され、学習へ使われるデータ中の割合である。 |
| \(D_t\) | 次世代モデルが実際に学習する、外部由来と AI 生成由来を混合した分布を表す。 | その時点の Web 全体ではなく、収集と選別を経た学習対象を表している。 |
9.2 学習データの分布が、次世代モデルの生成条件になる
次に、時点 \(t\) の学習データ \(D_t\) から次世代モデルを作る。現実の学習には、モデル構造、損失関数、最適化手法、データ順序、追加学習、調整など多数の要素が関わる。ここでは、それらを一つの操作へまとめて、
\[ M_{t+1}=\operatorname{Train}(D_t) \]
と書く。\(M_{t+1}\) は、時点 \(t\) のデータを使って作られた次世代モデルである。Train は具体的な一種類の学習アルゴリズムを意味するのではなく、「このデータ分布からモデルのパラメータを形成する処理全体」を表す記号である。
この式が表しているのは、\(D_t\) に含まれる文章がそのまま \(M_{t+1}\) の中へ保存されるということではない。学習データ中で、ある文脈の後にどの語が現れやすかったか、どの表現が多かったか、どの関係が繰り返されたかといった統計的な構造が学習更新へ作用し、その結果としてモデルの条件付き確率分布が形成される。第 8 章で見たウォーターマークの残留も、この経路の一例である。
次世代モデル \(M_{t+1}\) が文章を生成すると、その生成物にも一つの分布ができる。これを、
\[ S_{t+1}=\operatorname{Generate}(M_{t+1}) \]
と書く。Generate は、モデルへ入力を与え、復号方法に従って文章を生成する処理をまとめて表している。同じモデルでも入力や生成設定が違えば出力分布は変わるため、\(S_{t+1}\) はモデルそのものではなく、そのモデルが実際に社会へ出す生成物の分布として考える。
ここまでなら、
\[ D_t\rightarrow M_{t+1}\rightarrow S_{t+1} \]
という一方向の処理である。過去のデータからモデルを作り、そのモデルから文章を生成する。循環が成立するためには、もう一つ条件が必要になる。生成された \(S_{t+1}\) の一部が保存、公開、収集され、次の学習データ \(D_{t+1}\) に入ることである。
9.3 生成物が次の学習データへ戻ると、式が循環になる
次の時点でも同じ混合を考えると、
\[ D_{t+1}=(1-\alpha_{t+1})R_{t+1}+\alpha_{t+1}S_{t+1} \]
となる。ここへ先ほどの、
\[ S_{t+1}=\operatorname{Generate}(M_{t+1}) \]
と、
\[ M_{t+1}=\operatorname{Train}(D_t) \]
を順に入れると、
\[
D_{t+1}
=
(1-\alpha_{t+1})R_{t+1}
+
\alpha_{t+1}
\operatorname{Generate}
\left(
\operatorname{Train}(D_t)
\right)
\]
と書ける。式は長くなったが、内容は単純である。次の世代が学ぶデータ \(D_{t+1}\) の一部は、新しく外部から入った \(R_{t+1}\) であり、残りの一部は、前の世代の学習データ \(D_t\) から作られたモデルが生成した文章である。
さらに \(D_t\) 自体も、
\[ D_t=(1-\alpha_t)R_t+\alpha_tS_t \]
だった。つまり \(S_{t+1}\) は、直接には \(M_{t+1}\) の出力だが、その \(M_{t+1}\) は一世代前の \(D_t\) の影響を受け、\(D_t\) にはさらに過去の \(S_t\) が含まれている。現在の生成分布の中へ、複数世代前の生成結果が間接的に入り得る構造になる。
ここで「入り得る」と表現する理由も明確である。生成された文章がすべて次世代の学習へ戻るわけではない。非公開の文章は Web に出ない。公開されても収集されない場合がある。収集されても品質フィルターや重複除去、出自判定によって取り除かれる場合がある。学習へ入っても、その文章の特徴がモデル出力へ測定可能な形で残るとは限らない。
つまり、
\[ S_{t+1}\rightarrow D_{t+1} \]
という矢印は自然法則ではなく、公開、保存、収集、選別、採用という複数の条件がそろったときに成立する経路である。Web が世代間の媒体として働くかどうかは、生成量だけでなく、この経路の通過率によって変わる。
| 過程 | 次世代へ影響を残しやすい条件 | 経路が切れる条件 |
|---|---|---|
| 生成 | 大量の文章が外部へ出力される。 | 生成物が非公開のまま利用される。 |
| 保存・公開 | 文章が長期間アクセス可能な形で Web へ残る。 | 削除されるか、閉じた環境だけに保存される。 |
| 収集 | 将来の学習データ収集対象に含まれる。 | robots.txt などによるクロール制御、アクセス制限、収集方針によって対象外になる。 |
| 選別 | AI 生成と識別されず、または識別されても採用される。 | 生成元検出、重複除去、品質フィルターなどによって除外される。 |
| 学習 | 十分な量と重みを持って学習更新へ作用する。 | 混入量が小さいか、他のデータによって影響がほぼ相殺される。 |
9.4 一世代では混合比でも、繰り返すと履歴依存になる
一世代だけを切り出せば、「学習データの 20% が AI 生成だった」という静的な混合問題に見える。しかし、同じ構造が繰り返されると、現在の状態が過去の状態に依存する時間発展の問題へ変わる。
\[
D_0
\rightarrow
M_1
\rightarrow
S_1
\rightarrow
D_1
\rightarrow
M_2
\rightarrow
S_2
\rightarrow
D_2
\rightarrow\cdots
\]
\(M_1\) は \(D_0\) を学習して作られる。その出力 \(S_1\) が \(D_1\) に混ざれば、\(M_2\) は直接には \(D_1\) を学習しているが、その中には \(M_1\) の生成結果も含まれる。さらに \(S_2\) が \(D_2\) に入れば、\(M_3\) には \(M_2\) の出力を介して \(M_1\) の影響も間接的に入り得る。
このとき伝わるのは、元の文章の完全なコピーとは限らない。ある文章が次世代モデルへ入り、そのモデルが別の言葉で同じ傾向を再生成すれば、表面的な文面は変わっている。さらに次のモデルがそれを学習すれば、最初の文章そのものを見つけられなくても、そこで強調されていた語彙、関係、誤り、選択傾向などが分布上の影響として残る可能性がある。第 8 章のウォーターマークは、このような経路の一部を既知の統計信号によって測定可能にした例だった。
ここで履歴依存という性質が現れる。同じ \(R_t\) が外部から入ってきたとしても、それまでの世代でどのような \(S_0,S_1,S_2,\ldots\) が学習データへ混ざってきたかによって、現在の \(M_t\) は異なり得る。現在のモデルは現在の情報だけから決まるのではなく、過去にどの生成物が保存され、どの生成物が学習へ戻ったかという経路にも依存する。
9.5 \(\alpha_t\) が大きいことと、閉じた系であることは同じではない
このモデルを使うとき、AI 生成文の割合 \(\alpha_t\) をそのまま危険度と読むことはできない。たとえば学習データの 80% が AI 生成だったとしても、残る 20% の \(R_t\) が新しい測定、一次資料、人間の経験、現実の出来事などを継続して供給し、その情報が十分に学習へ反映されるなら、系には外部から新しい差が入り続けている。
反対に、AI 生成文の比率がそれほど高くなくても、人間が書いている文章の大部分が過去の AI 出力の要約や言い換えであれば、形式上は \(R_t\) に見える文章まで過去の生成系へ依存している可能性がある。単純な二分モデルでは、このような中間状態を完全には表現できない。
そのため、\(R_t\) を「人間が書いた文章」、\(S_t\) を「AI が書いた文章」とだけ定義すると、後半で必要になる外部参照の議論を取り逃がす。より本質的な区別は、現在の生成系とは独立した観測や経験から新しい情報が入る経路と、過去の生成結果を再利用する経路の違いにある。
この意味で \(\alpha_t\) は、現実を完全に記述する量ではなく、循環の強さを考えるための第一近似である。実際の系を詳しく扱うなら、AI 生成文の割合だけでなく、元の情報源まで遡った独立性、重複率、引用関係、編集量、収集方針なども変数に入れる必要がある。それでも最小モデルを置くことで、「現在の学習分布には、外部から入る成分と、過去の生成が戻ってくる成分がある」という構造を明示できる。
9.6 Web は空間であると同時に、世代間を接続する時間的な媒体になる
この数理モデルを通すと、インターネットの役割が少し違って見える。通常、Web は多数の文章が同時に存在する空間として捉えられる。あるサイトから別のサイトへ移動し、検索によって別の文書へ到達するという意味では、情報が空間的に広がる媒体である。
生成 AI と再学習を含めると、そこへ時間方向の役割が加わる。時点 \(t\) に生成された \(S_t\) が Web へ保存され、時点 \(t+1\) の学習データ \(D_{t+1}\) へ入り、そのデータから \(M_{t+2}\) が作られる。Web 上の文章は現在の読者へ情報を届けるだけでなく、過去の生成結果を未来の生成器へ運ぶ経路にもなる。
この関係を一行で書けば、
\[
\text{過去の生成}
\rightarrow
\text{Web への保存}
\rightarrow
\text{未来の学習}
\rightarrow
\text{未来の生成}
\]
となる。第 4 章では、一回ごとには見えない微小な確率差が、100 回の選択として保存されると統計的な履歴になることを見た。本章では同じ視野を時間方向へ拡大した。一つのモデルが生んだ文章も、その場で消えずに保存され、学習データへ戻れば、後のモデルを構成する履歴の一部になる。
この循環が存在することから、直ちに性能低下や崩壊が導かれるわけではない。外部由来の \(R_t\) がどれだけ供給されるか、AI 生成側の \(\alpha_t\) がどのように変化するか、過去のデータを保持するか置き換えるかによって、長期的な結果は変わる。次章では、この条件の違いを無視して「AI が AI の文章を学べば必ず劣化する」と結論することがなぜ粗いのかを、再帰的学習とモデル崩壊の研究から整理する。
10. AI 生成物を再学習すれば必ず崩壊するわけではない
10.1 分布の裾が失われるとはどういうことか
生成物を次世代モデルの学習へ戻すとき、最もよく知られている懸念の一つがモデル崩壊である。Shumailov らは、生成モデルの出力を次の世代の学習データとして再帰的に使うと、元のデータ分布の低確率領域が失われ、世代を重ねるにつれて元分布から離れていく条件を理論と実験で示した[15]。ここで言う崩壊は、ある世代から突然まともな文章を書けなくなる現象だけを意味しない。より早い段階では、元の世界に存在していた稀な事例や表現が、生成と再学習を繰り返す過程で選ばれにくくなる。
この仕組みは、珍しい表現を例にすると追いやすい。元のデータでは 1000 件に 1 件の割合で現れる表現があるとする。理想的には次世代モデルも同じ程度の確率でその表現を生成できることが望ましい。しかし、有限個の文章しか生成しなければ、1000 件に 1 件の事例が一度も標本へ入らないことがある。これはモデルに異常がなくても起こる。低確率の事例ほど、有限標本から偶然抜け落ちやすいためである。
一度抜け落ちると、次の段階で影響が増える。その生成データだけを使って次世代モデルを学習すれば、次世代モデルには「元の世界にはその表現が 1000 件に 1 件存在した」という直接の証拠が与えられない。前世代が偶然出さなかったという事実が、次世代から見ると「そのような表現は存在しない、あるいはさらに稀である」という学習材料に変わる。そのモデルがさらに生成した標本では、同じ表現が現れる可能性がいっそう下がり、次の世代では再び学習機会が減る。
ここには二段階の損失がある。最初は有限標本による取りこぼしであり、その時点では偶然でしかない。次の世代がその標本を元の世界そのものとして学習すると、偶然の取りこぼしがモデル分布の変化へ変換される。その新しい分布から再び標本を作ると、すでに小さくなった確率がさらに標本から消えやすくなる。こうして一回の標本誤差が、再帰的な学習を介して世代間で増幅され得る。
このため、最初に失われやすいのは分布の中心ではなく裾である。多数派の表現は一回の生成集合にも何度も現れるため、次世代へ伝わりやすい。稀な方言、少数例しかない組み合わせ、例外的な事象、通常とは異なる説明順序などは、有限の生成集合から抜け落ちやすい。平均的な文章がまだ自然に見えていても、元の世界が持っていた多様性の一部は先に縮小している可能性がある。
Seddik らは、この再帰学習を言語モデルについて単純化した統計モデルで分析し、合成データだけを再帰的に用いる設定ではモデル崩壊を避けられない一方、実データと合成データを混合する設定では、混合比などの条件によって安定した学習が可能になる場合を示している[16]。この結果から、再帰学習の帰結を決めるのは「AI 生成データが存在するか」という二択ではなく、元の分布へ直接つながる情報が世代間でどれだけ保持されるかだと分かる。
10.2 「AI 生成データが含まれる」と「元のデータが置換される」は違う
第 9 章で導入した混合モデルを使うと、この違いを数式で分けられる。
\[ D_t=(1-\alpha_t)R_t+\alpha_tS_t \]
\(\alpha_t\) は、時点 \(t\) の学習データに占める AI 生成側の割合である。\(\alpha_t>0\) なら、学習データに AI 生成物が含まれている。しかし、それだけでは外部由来の \(R_t\) が失われたことにはならない。
たとえば \(\alpha_t=0.2\) なら、
\[ D_t=0.8R_t+0.2S_t \]
となる。AI 生成物が 20% 混ざっていても、残る 80% は \(R_t\) から直接供給される。この \(R_t\) に、最新の測定、一次資料、新しい出来事、人間の経験などが含まれていれば、次世代モデルには過去のモデル出力とは独立した情報が継続して入る。
一方、\(\alpha_t=1\) なら、
\[ D_t=S_t \]
となる。この極端な条件では、時点 \(t\) のモデルが見る学習対象は過去の生成物だけになる。元の分布に存在した事例が \(S_t\) から抜け落ちていれば、それを復元するための独立した証拠は \(D_t\) の中にはない。前世代の近似誤差や標本誤差を、次世代が新しい現実として受け取る構造になる。
この差は、AI 生成データの利用そのものと、元のデータの置換を分けて考える必要があることを示している。AI 生成物を追加してデータ量を増やす場合と、既存の実データを捨てて生成物へ置き換える場合では、同じ \(\alpha_t>0\) でも情報の保存条件が異なる。後者では元分布へ戻る参照点が世代ごとに失われるため、前世代の近似誤差を次世代が修正しにくい。
10.3 元の実データを残すと、再帰学習の構造が変わる
Gerstgrasser らは、この違いを「各世代で実データを新しい合成データへ置き換える場合」と「過去の実データを保持しながら合成データを追加する場合」に分けて検討している[17]。前者では、世代が進むたびに元のデータへの直接アクセスが減り、生成モデルが作った近似を次のモデルがさらに近似する構造になる。後者では、生成データが増えても、元の実データが学習集合から消えない。
この違いは、珍しい表現の例へ戻すと明確になる。第 1 世代の生成物から 1000 件に 1 件の表現が偶然消えたとしても、元の実データを次世代学習に残していれば、その表現を含む原例はまだ参照できる。生成側で一度取りこぼしたことが、直ちに次世代の学習対象からの消失を意味しない。生成物だけへ置換する場合には、この補正経路がない。
Gerstgrasser らは、実データを保持しながら生成データを蓄積する設定では、調べた条件の範囲でモデル崩壊を回避できることを示している[17]。ここから得られるのは「実データを少し残せば常に安全」という単純な規則ではない。データの保持方法を変えるだけで、再帰的な生成が同じでも長期挙動が変わるという事実である。
Bertrand らも、生成モデルを自分自身の出力で反復学習させる系の安定性を理論的に解析し、画像生成の実験でも検証している[18]。解析では、初期モデルが元分布をどの程度正確に近似しているか、清浄な実データをどの程度混ぜるかなどが安定性を左右する。元モデルの近似誤差が大きければ、その誤差を含む生成データを再利用する影響も大きくなる。逆に、元分布へ直接つながるデータを十分に残せれば、各世代で生じる誤差を外部参照によって拘束できる。
| 学習条件 | 直接起きること | 世代を重ねたときの帰結 |
|---|---|---|
| 実データを捨て、各世代の合成データへ置換する | 次世代は前世代が生成できた標本だけを直接観測する。 | 稀な事例の取りこぼしや近似誤差が次世代の学習分布へ入り、さらに増幅され得る。 |
| 実データを保持し、合成データを追加する | 生成物が増えても、元分布を示す実例を次世代が引き続き参照できる。 | 生成側の標本誤差を元データが補正でき、調べられた条件では崩壊を回避できる場合がある。 |
| 実データと合成データを一定比率で混合する | 外部由来の信号と過去のモデル出力が同時に学習へ作用する。 | 安定性は混合比、元モデルの誤差、データ量、学習方法などの条件に依存する。 |
10.4 「実データ」という名称より、独立した参照点が残っているかが重要になる
ここまで「実データ」と「合成データ」という区別を使ってきたが、インターネット全体を考えると、この二分だけでは足りない。人間が書いた文章でも、その内容が AI 生成文の要約や言い換えであれば、形式上は人間文でも情報源は過去のモデルへ戻る。反対に、AI が文章化したデータでも、入力が新しいセンサー測定や一次資料であれば、そこには過去の生成モデルとは独立した情報が含まれている。
第 9 章で \(R_t\) を単に「人間が書いた文章」とせず、「外部世界や人間の新しい観測から入る分布」とした理由はここにある。長期的な循環で必要なのは、人間か AI かという著者属性よりも、過去の生成系とは独立した差が学習へ入り続けることである。
たとえば天気について考える。過去の AI が生成した天気解説を何世代も学習しても、実際の気温や降水量を新しく測定しなければ、現在の天候についての情報は増えない。反対に、AI が毎日最新の観測値を読み、それを文章化して公開しているなら、生成文であっても外部世界から新しい情報を運んでいる。生成主体だけを見ても、循環が閉じているかは判断できない。
この観点では、モデル崩壊研究が示す「実データを残すこと」の意味も広く読める。必要なのは、過去のモデルが作った近似とは独立した参照点を失わないことである。元分布そのものへつながる標本、最新の観測、一次記録、モデル外部からの訂正が残っていれば、前世代の生成誤差を次世代がそのまま現実として受け取る必要はない。
10.5 危険なのは循環そのものより、近似と現実を比較する経路が失われることである
ここまでの研究をまとめると、AI 生成物が学習データへ戻るという循環だけからモデル崩壊を導くことはできない。生成データを使っていても、元の実データを保持し、独立した観測を継続的に追加し、生成側の誤差を比較できる条件では、安定した学習が可能な場合がある[16][17][18]。
反対に、過去の生成物が元データを置き換え、次世代が前世代の出力だけを学ぶ方向へ進むと、構造が変わる。前世代が作った近似と、元の世界との差を測るための資料が次世代から失われる。ある稀な事例が前世代の生成から消えたとき、それが「前世代の取りこぼし」なのか「現実にも存在しない」のかを区別する外部証拠がなくなる。
この状態では、誤差があること以上に、誤差を誤差として認識するための参照点が失われる。第 9 章の式で言えば、焦点は \(\alpha_t\) が大きいか小さいかだけではなく、\(R_t\) が独立した情報源として維持されているかに移る。AI 生成物が多数を占めても \(R_t\) が十分に機能していれば外部から訂正できる。\(R_t\) が形式上残っていても、その内容が過去の \(S_t\) の再加工にすぎなければ、実質的な外部参照は弱くなる。
ここから、モデル崩壊の議論は単なる性能問題を越える。次世代モデルが何を「世界のデータ」として受け取るのか、そのデータの中に過去のモデル自身とは独立した観測がどれだけ残っているのかという、情報環境の構造の問題になる。次章では、この視点を個々の学習データ集合からインターネット全体へ広げる。Web を現在の文書が並ぶ空間としてだけでなく、過去の生成物を保存し、未来のモデルへ受け渡す時間的な媒体として捉えると、外部参照点を維持することの意味がさらに明確になる。
11. インターネットを空間ではなく、過去を未来へ運ぶ構造として見る
11.1 一つの生成結果は、空間方向に拡散する
ここまで扱ってきた現象を、まず空間方向へ広げる。一つのモデルが選んだ一つのトークンは、そのままでは局所的な出来事である。しかし、そのトークンが文章の一部となり、文章が記事や投稿として公開されれば、一つのサイトに保存される。さらに転載、引用、検索索引、アーカイブ、データ収集を通じて複数の場所へ複製されれば、最初の生成結果は一つの実行環境を離れ、Web 上の情報分布の一部になる。
この拡張を単純化すると、
\[
\text{トークン}
\rightarrow
\text{文章}
\rightarrow
\text{サイト}
\rightarrow
\text{Web}
\rightarrow
\text{学習コーパス}
\rightarrow
\text{モデル}
\]
と表せる。この矢印は、同じ情報が無変形のままコピーされることだけを意味しない。文章は途中で要約され、翻訳され、引用され、別の文脈へ組み込まれることがある。それでも、元の生成結果が後続の情報形成へ何らかの入力を与えれば、影響の経路は続いている。第 8 章で扱ったウォーターマークの残留は、このような経路のうち、文章から学習コーパス、さらにモデルへ進んだ影響を統計的に追跡できた例である。
空間方向の拡散で変わるのは、影響を受ける主体の数である。生成直後には一つのモデルと一つの利用者だけが関与していた文章も、公開後には読者、検索システム、推薦系、アーカイブ、学習データ収集器など、異なる処理系から参照される。同じトークン列が複数の系へ入力されるため、一回の生成が持つ作用範囲は生成時の計算環境より広くなる。
11.2 保存されることで、空間的な拡散に時間方向が加わる
Web 上へ広がるだけなら、まだ同じ時点に存在する情報の分布として考えられる。生成物が保存され、数か月後、数年後の学習データとして収集されると、そこへ時間方向の接続が加わる。時点 \(t_0\) に生成された文章が、時点 \(t_1\) の Web に残り、時点 \(t_2\) に収集され、時点 \(t_3\) に学習へ使われるという経路である。
\[
t_0
\rightarrow
t_1
\rightarrow
t_2
\rightarrow
t_3
\rightarrow\cdots
\]
この時間軸で重要なのは、過去の文章が未来でも読めることだけではない。第 9 章で示したように、保存された文章が次世代モデルの学習へ入れば、過去の生成結果が未来のモデルの確率分布を形成する材料になる。さらに、そのモデルが新しい文章を生成し、それが再び保存されれば、一世代前の出力は未来の出力へ間接的に作用する。
たとえばモデル \(M_1\) が時点 \(t_1\) に作った文章が、数年後にモデル \(M_2\) の学習データへ入ったとする。\(M_2\) はその文章をそのまま記憶するとは限らないが、文章に含まれる語彙、関係、頻度、誤り、説明傾向などがパラメータ更新へ作用する可能性がある。\(M_2\) が別の表現で同じ傾向を大量に生成すれば、最初の文章は文面として消えていても、その影響は別の形で時点 \(t_2\) の情報環境へ戻る。
保存によって、情報は現在の利用者だけでなく、未来の学習系に対しても作用可能になる。第 6 章で一つの文章について「保存された差が履歴になる」と述べた関係が、ここではインターネット全体の時間構造へ拡張される。
11.3 空間的な拡散と時間的な継承を重ねると、Web の役割が変わる
空間方向と時間方向を別々に見るだけでは、生成 AI と Web の循環全体は捉えにくい。実際には、ある時点のモデル出力が多数のサイトへ空間的に分散し、その一部が時間を経て収集され、次世代モデルの内部へ取り込まれ、そのモデルがさらに多数の場所へ新しい出力を返す。空間的な拡散と時間的な継承は、別々の過程ではなく一つの循環の異なる断面になる。
概念的には、
\[
\text{生成}
\rightarrow
\text{空間的拡散}
\rightarrow
\text{保存}
\rightarrow
\text{再収集}
\rightarrow
\text{学習}
\rightarrow
\text{再生成}
\rightarrow
\text{再び空間的拡散}
\]
という連鎖になる。
この見方では、Web は巨大な静的文書庫ではない。現在の利用者が文章を探すための空間であると同時に、過去の生成結果を未来の生成器へ受け渡す中間層でもある。文章はサイトに置かれた時点で処理を終えるのではなく、検索、引用、収集、学習という別の処理へ接続される可能性を持つ。
従来の Web にも時間方向は存在した。過去の論文を未来の研究者が読み、古い記事を後世の著者が引用し、蓄積された知識が新しい文章へ反映されてきた。生成 AI によって新しくなるのは、保存された記録を確率モデルが大規模に読み込み、その統計構造から新しい記録を大量に生成し、その生成物が再び同じ共有環境へ戻ることである。記録を読む主体と記録を大量に作る主体が、同じ種類の学習・生成系として循環の両側に入る。
11.4 外部記憶は、保存装置から次の生成規則を作る媒体へ変わる
既稿「構造・時間・生命・意味・知能・自己・AI を生成連鎖として説明する」では、人間の知能機能が記録、制度、装置へ外部化され、その蓄積が文明と AI へ接続する過程を生成連鎖として整理した[19]。また「知性はどこまで外部化されるのか」では、記憶、計算、規則処理、予測などの機能が文字、書物、計算機、ネットワーク、AI という外部担体へ移されていく構造を扱った[20]。
生成 AI と Web の循環をこの系列へ加えると、外部記憶の役割が一段変わる。書物も従来の Web も、過去の知識を保存し、未来の人間が読み取れる形で保持してきた。そこでは記録が次の思考へ影響するまでに、読者が読み、理解し、選択し、別の文章として書き直す過程が挟まれる。
大規模言語モデルでは、保存された記録そのものが大規模な学習処理へ直接入力される。モデルは文章を一件ずつ引用元として読むのではなく、多数の文章に含まれる統計的な関係をパラメータへ圧縮し、その分布から新しい文章を生成する。生成物が再び Web へ戻れば、外部記憶は「過去を保存する場所」であるだけでなく、「未来の生成規則を形成する学習材料を保持する場所」になる。
この変化によって、記録と生成の境界も薄くなる。ある文章は人間にとっては過去の記録だが、次世代モデルにとっては学習入力であり、さらにその学習結果から生まれた別の文章の遠い原因にもなる。外部記憶が受動的な保存層から、次の生成分布を形成する循環の一部へ組み込まれる。
| 外部記憶の形 | 過去の情報の使われ方 | 未来への作用 |
|---|---|---|
| 書物 | 人間が読み、理解し、引用や批評を通じて利用する。 | 人間の認識と判断を介して次の記録へ影響する。 |
| 従来の Web | 検索、閲覧、引用、転載を通じて多数の利用者から参照される。 | 人間や情報システムを介して新しい文書の形成へ作用する。 |
| 生成 AI を含む Web | 人間による参照に加え、大規模な学習コーパスとしてモデルへ取り込まれる。 | 保存された分布がモデルの生成規則へ変換され、その生成物が再び外部記憶へ戻り得る。 |
11.5 一語の z 値と Web 全体の循環は、同じ数式ではなく同じ因果構造を持つ
ここで第 4 章のウォーターマーク検出へ戻る。一つの生成位置だけを見れば、そのトークンが Green だったことに大きな意味はない。透かしがなくても偶然 Green は選ばれる。ところが、その選択結果が 100 回保存されれば、期待値との差と自然な揺れを比較し、生成規則の偏りを z 値として観測できるようになる。
インターネット全体についても、「一つの AI 文章が公開された」という一回の出来事だけから長期的な帰結を導くことはできない。一つの文章が次世代モデルへ与える影響は通常きわめて小さい。大量の生成物が公開され、その一部が継続的に収集され、学習へ入り、さらに生成物として戻るとき、過去の生成結果は学習分布を構成する一要因になる。
両者には、
\[
\text{微小な差}
\rightarrow
\text{反復}
\rightarrow
\text{保存}
\rightarrow
\text{集積}
\rightarrow
\text{後の状態から観測可能な差}
\]
という因果構造が共通している。
ただし、この対応を同じ統計モデルとして扱うことはできない。ウォーターマークの z 検定では、Green の割合、文章長、帰無仮説などを明示し、比較的閉じた確率モデルを置ける。Web 全体では、複数のモデル、複数の企業、人間による編集、検索順位、推薦、重複除去、学習データ選別、削除、非公開データなどが同時に作用する。Web 上の生成物が何件増えれば将来のモデルが何ポイント変化する、という単純な対応式はこの議論からは導けない。
共通しているのは数式ではなく、局所的な選択が保存され、その保存結果が次の処理へ入力されることで、過去の差が大域的な状態形成へ参加するという因果関係である。この区別を置くことで、第 4 章の統計モデルをそのまま社会全体へ拡大する誤りを避けながら、局所的なウォーターマーク研究から得られた視点を Web の時間発展へ接続できる。
11.6 長期的に効くのは生成量だけでなく、外部から新しい差が入り続けるかである
空間と時間を重ねた循環を考えると、AI 生成物の総量だけでは系の状態を判断できないことも明確になる。第 10 章で見たように、大量の合成データが存在しても、過去のモデルとは独立した実データや新しい観測を保持する条件では、再帰的学習が安定する場合がある。反対に、生成物の割合がそれほど高くなくても、外部由来と見なしている文章の多くが過去の AI 出力の要約や再加工なら、独立した参照点は見かけより少ない。
この違いを決めるのは、Web に何文字の AI 文章が存在するかだけではない。新しい測定、一次資料、現実の出来事、人間による異論や訂正など、過去の生成結果からは直接導けない差が循環へ入り続けるかである。外部から差が入れば、前世代モデルの近似と外部世界を比較し、そのずれを次世代で修正できる。外部参照が失われれば、過去の近似が次世代の学習対象となり、その近似と現実との差を測る材料も減っていく。
ここまで来ると、インターネットの時間的な役割は「昔の文章を未来へ保存すること」より広くなる。Web は、過去の人間の記録、過去のモデル出力、現在の観測を同じ学習環境へ集め、それらの混合比と選別方法を通じて未来の生成条件を形成する。何を保存し、何を除外し、どの情報源を独立した参照点として維持するかが、次世代モデルの見る世界を変える。
次章では、この構造を極限まで進める。外部から新しい差が入り続ける系と、過去の生成物が次の生成条件の大部分を占める系では、同じ「AI が Web を学習する」という表現でも意味が異なる。後者が進めば、AI は人間が記録した世界を読むだけではなく、自らの過去の生成によってすでに形を変えられた情報環境を、次の世界として学ぶことになる。
12. AI が自分で書き換えた世界を、次の AI が世界として読む
12.1 最初の学習では、モデルの外側に参照対象があった
大規模言語モデルの学習を単純化すると、最初の関係は比較的明瞭だった。現実世界で出来事が起き、人間がそれを観察し、文章、記録、論文、報道、データベースなどの形で外部記憶へ残す。モデルは、その記録を学習する。
\[
\text{外部世界}
\rightarrow
\text{人間による観測と記録}
\rightarrow
\text{学習データ}
\rightarrow
\text{AI}
\]
もちろん、人間の記録も外部世界をそのまま写したものではない。観察者の関心、測定方法、言語、制度、編集方針によって選択と変形を受ける。それでも、この段階ではモデルが生成した文章とは独立した出来事が先にあり、その出来事についての新しい記録がモデルの外部から供給される。モデルが誤ったとしても、後から新しい測定や一次資料を加えることで、過去の出力とは別の根拠から修正できる。
第 9 章で導入した \(R_t\) は、この外部から入る経路を表すための記号だった。\(R_t\) が保持しているのは「人間が書いた」という形式ではなく、過去の生成モデルだけからは導けない観測、経験、実験結果、一次記録などである。次世代モデルが過去のモデルと異なる世界像を獲得できるのは、この独立した入力が残っているからである。
12.2 生成物が Web へ戻ると、学習対象の一部を過去の AI 自身が作る
生成 AI が大量の文章を Web へ戻すようになると、次世代モデルが読む対象の構成が変わる。新しい学習データには、人間や計測装置が新しく記録した内容だけでなく、過去のモデルがすでに生成した文章、その要約、転載、翻訳、言い換えも入り得る。
\[
\text{外部世界に由来する記録}
+
\text{過去の AI 生成物}
\rightarrow
\text{次世代 AI}
\]
この変化の意味は、AI 生成文が存在すること自体にはない。人間の文化も、過去の文章を読み、引用し、批判し、組み替えながら次の文章を作ってきた。過去の記録が未来の記録に影響するという構造は生成 AI 以前から存在する。
生成 AI を含む循環で新しくなるのは、過去のモデルが作った分布が大規模な文章生成を介して外部環境へ戻り、その環境を次の確率モデルが再び大量に学習できる点である。前世代の近似が文章として外部化され、その文章が次世代から見れば学習対象になる。モデル内部にあった近似と、モデル外部にある世界の記録との境界が、データ収集の段階で重なり始める。
12.3 開放系か閉鎖系かを決めるのは、外から新しい差が入る経路である
第 9 章の混合モデルへ戻ると、学習分布は、
\[
D_t=(1-\alpha_t)R_t+\alpha_tS_t
\]
と表した。\(S_t\) は過去の AI 生成に由来する分布、\(R_t\) はそれとは独立した外部由来の分布である。この式で \(\alpha_t\) が大きいことと、系が閉じていることは同じではない。AI 生成物が多数を占めても、\(R_t\) を通じて新しい測定、一次資料、失敗事例、少数派の経験、実験結果、批評、反証が入り続けるなら、過去のモデルには存在しなかった差を次世代が学べる。
外部入力が持つ役割は、単にデータ量を増やすことではない。前世代モデルが作った近似と、モデル外部で起きた事実を比較する基準を供給する。たとえば前世代モデルが稀な事例を過小評価していても、新しい観測でその事例が記録されれば、次世代には修正材料が入る。モデルが誤った説明を大量に生成していても、一次資料や実験結果が独立して残っていれば、両者の不一致を検出できる。
この意味で開放性は、「人間が途中にいるか」だけでは決まらない。人間が AI 出力をほぼそのまま言い換えて再投稿しているなら、形式上は人間文でも新しい差はほとんど入らない。反対に、AI が最新の観測装置から得た新しい測定値を文章化しているなら、生成主体は AI でも外部世界からの情報流入は存在する。見るべきなのは著者属性ではなく、情報の因果的な起源である。
12.4 極端な閉ループでは、過去の近似が次の現実標本になる
ここで極端な思考実験として、\(\alpha_t\) が 1 に近づき、同時に \(R_t\) から入る独立した新規情報も弱くなる場合を考える。学習データの大部分が過去のモデル出力やその派生物によって構成され、古い一次記録も次第に置換されるとする。
\[
\text{AI}
\rightarrow
\text{情報環境}
\rightarrow
\text{AI}
\rightarrow
\text{情報環境}
\rightarrow\cdots
\]
この循環では、ある世代のモデルが生成した近似が、次世代から見ると世界を代表する標本の一部になる。前世代が稀な事例を出さなかったなら、その不在が次世代の学習データでも再現される。前世代が特定の説明を過剰に生成したなら、その過剰表現が Web 上の頻度として次世代へ提示される。最初はモデル内部の誤差だったものが、公開と再収集を経て、外部データ側の特徴へ変換される。
ここで失われるものは、必ずしも文章の自然さや文法的品質ではない。モデル同士が互いの出力を学習しても、流暢な文章を生成し続ける可能性はある。より根本的に失われ得るのは、「現在の分布が外部世界とどれだけずれているか」を測るための独立した参照点である。
たとえば、ある珍しい経験が最初の Web には存在していたが、生成モデルがほとんど再現せず、その後の学習データでも原資料が失われたとする。数世代後のモデルから見れば、その経験が「昔は存在したが途中で消えた」のか、「もともと存在しなかった」のかを区別する証拠がない。失われた情報についての記録そのものが失われれば、欠落は系の内部だけから観測しにくくなる。
12.5 ディストピアの境界は、悪い情報が増えることではなく、比較できなくなることにある
ここで、既稿「AI だけが文章を書き続けるディストピアの果て」で考えたディストピアの問題へ接続できる[21]。ある社会状態をディストピアとして評価するには、現在の状態を別の可能性と比較し、何が失われたかを判断できる観察者、記録、評価基準が必要になる。自由が失われたと判断するには、自由が存在した状態や別の制度を知る必要がある。多様性が失われたと判断するには、現在の分布に現れない事例が過去や外部に存在することを参照できなければならない。
AI と Web の閉ループでも同じ構造が現れる。外部観測、一次資料、批評、異論、過去の原記録が残っている限り、現在のモデル分布をそれらと比較できる。循環内部の情報が多数を占めても、「この説明は外部の測定と違う」「この事例が消えている」「この表現だけが過剰に増えている」と指摘する余地が残る。
反対に、比較対象まで循環内部の生成物によって置換されると、自己修正の条件そのものが弱くなる。現在のモデルが作った分布を、その分布から生まれた次世代モデルが基準として学び、その次のモデルも同じ系を参照するなら、内部整合性を保ったまま外部とのずれを拡大することがあり得る。内部で矛盾が少ないことと、外部世界を正しく反映していることは同じではない。
この極限でディストピア的なのは、AI が悪意を持つことでも、すべての文章が虚偽になることでもない。失われたものを失われたと判定するための比較対象が減っていくことである。系の外から観察する主体と記録が残る限り、閉鎖は完全ではない。外部記録まで失われ、比較の基準そのものが循環内部で生成されるようになれば、何が欠落したかを内部から認識すること自体が難しくなる。
12.6 ウォーターマークは閉ループの原因ではなく、むしろ境界を管理する側にも使える
この帰結を、ウォーターマークの危険性へ読み替えることはできない。ウォーターマークは、ここまで述べた情報循環を発生させる技術ではない。AI 生成物が Web へ公開され、それを後続モデルが学習する経路は、透かしがなくても成立する。
むしろウォーターマークは、生成物の出自を識別し、学習データ中の合成データ比率を測定したり、特定の生成元から来た文章を除外したりするためにも利用できる。第 8 章で見たように、既知の統計信号をトレーサーとして使えば、生成物が学習境界を越えてどこまで影響したかを調べることもできる。閉ループを作る技術というより、通常は見えにくい循環を観測し、管理するための技術にもなり得る。
生成物の出自を識別する用途は、研究上の可能性にとどまらない。Google DeepMind は SynthID-Text について、元の生成分布を保つ構成を含み、約 2000 万件の Gemini 応答を使った大規模な実運用評価でも文章品質を維持できたと報告している[22]。Anthropic も 2026 年 8 月 14 日、Claude の将来モデルに SynthID-Text 系の方式を導入すると公表し、長い文章ほど検出に使える情報が増える一方、事実文、校正、コードのように選択余地が少ない生成ではウォーターマークが疎になると説明している[23]。さらに、同じ SynthID 系列の画像向け実装 SynthID-Image では、Google のサービスで 100 億件を超える画像・動画フレームにウォーターマークを適用したと報告されている。ただし、これは画像・動画の出自管理をインターネット規模で運用した実績を示すものであり、テキストウォーターマークの検出性能を直接示すものではない[24]。
それでも本稿が Kirchenbauer 方式の理論から後半へ進めた理由は、一回の微小な確率操作が保存によって履歴になることを、非常に小さな尺度で具体的に確認できるからである。生成時にはロジットへ \(\delta\) を加えただけだった差が、文章中では Green の選択回数として残る。その文章が学習へ使われれば、条件によっては後続モデルの生成傾向からも痕跡を検出できる。局所的な確率差が、保存と学習を介して時間方向へ伝わり得ることが実験可能な形で示されている。
12.7 一語の選択から、未来の生成条件まで一本の連鎖でつながる
本稿の出発点は、次の一トークンを選ぶときに Green の候補を少しだけ有利にするという局所的な操作だった。一回の選択では、その差を偶然から区別できない。100 回程度の選択が記録されれば、期待値と標準偏差を使って z 値を計算し、同じ方向の偏りが偶然の範囲を超えているかを調べられる。
文章が保存されると、その統計的な差は生成時点を越えて後から読める履歴になる。文章が Web へ公開されれば、履歴は一つのファイルを離れ、検索、転載、収集を通じて別の処理系へ入る。学習データへ採用されれば、過去の生成結果は次世代モデルのパラメータ形成へ作用する。次世代モデルがさらに文章を生成し、その生成物も学習へ戻れば、過去の選択は複数世代後の生成条件へ間接的に残り得る。
この連鎖をまとめると、
\[
\text{確率差}
\rightarrow
\text{トークン選択}
\rightarrow
\text{文章}
\rightarrow
\text{保存}
\rightarrow
\text{Web}
\rightarrow
\text{学習データ}
\rightarrow
\text{次世代モデル}
\rightarrow
\text{次の生成}
\]
となる。各矢印には条件がある。文章が削除されれば保存の経路は切れる。学習データから除外されればモデルへは入らない。学習しても特徴が十分に残るとは限らない。そのため、この連鎖を必然的な伝播則として扱うことはできない。それでも、条件が満たされたときに過去の生成結果が未来の生成条件へ戻る経路が存在することは、個別の研究から確認できる。
ここで第 4 章の数理と後半の議論が同じ地点へ戻る。一語ごとの微小な差は、保存されなければその場で消える。保存されても、後から読み取られなければ次の処理には作用しない。保存され、集積され、読み取られ、その結果が次の更新へ使われたとき、過去の選択は未来の状態を構成する履歴になる。
12.8 生成 AI 時代の Web で見るべきなのは、現在の量より情報の系譜である
生成 AI 時代のインターネットを評価するとき、「Web の何割が AI 文章になったか」という現在時点の量だけでは、長期的な構造を捉えられない。同じ 50% の AI 生成文でも、その生成物が学習から除外される場合と、次世代モデルへ大量に取り込まれる場合では意味が違う。AI 生成文が 10% しかなくても、残る 90% の多くが過去の AI 出力を人間が言い換えたものなら、情報源の独立性は数字ほど高くない。
必要なのは、文章の表面的な著者属性よりも、その情報がどこから来て、どこへ保存され、何を経由して次の学習へ入ったかという系譜を見ることである。過去の生成物と独立した一次記録が保存されているか。生成物を識別できるか。元資料と派生物を区別できるか。新しい観測が継続して供給されているか。これらが、次世代モデルが過去のモデルの近似と外部世界を比較できるかを左右する。
インターネットは現在の情報を並べる空間であると同時に、過去の生成結果を未来へ運ぶ記憶媒体になっている。生成 AI が加わると、その記憶は読むためだけに保存されるのではなく、次の生成規則を作る学習材料として再利用される。現在のモデルは過去の Web を学び、現在の生成物は未来の Web の一部になり、その未来の Web を次のモデルが学ぶ。
最初に見たウォーターマークは、この巨大な循環のごく小さな断面だった。生成時に加えた微小な確率差が、一つの文章へ統計的な履歴として残る。視野を文章から Web へ、現在から複数世代へ広げると、同じ問いが別の規模で現れる。生成 AI が世界について何を学ぶかだけでなく、生成 AI が現在何を世界へ書き込み、それを未来の AI がどのような世界の記録として読み直すのかが、次の情報環境を決める。
参考文献
- John Kirchenbauer, Jonas Geiping, Yuxin Wen, Jonathan Katz, Ian Miers, Tom Goldstein, A Watermark for Large Language Models, Proceedings of the 40th International Conference on Machine Learning, 2023. https://proceedings.mlr.press/v202/kirchenbauer23a.html
- Eric Mitchell, Yoonho Lee, Alexander Khazatsky, Christopher D. Manning, Chelsea Finn, DetectGPT: Zero-Shot Machine-Generated Text Detection using Probability Curvature, Proceedings of the 40th International Conference on Machine Learning, 2023. https://proceedings.mlr.press/v202/mitchell23a.html
- Vinu Sankar Sadasivan, Aounon Kumar, Sriram Balasubramanian, Wenxiao Wang, Soheil Feizi, Can AI-Generated Text be Reliably Detected?, 2023. https://arxiv.org/abs/2303.11156
- Ari Holtzman, Jan Buys, Li Du, Maxwell Forbes, Yejin Choi, The Curious Case of Neural Text Degeneration, 2019. https://arxiv.org/abs/1904.09751
- Claude E. Shannon, A Mathematical Theory of Communication, The Bell System Technical Journal 27, 1948. https://ieeexplore.ieee.org/document/6773024
- John Kirchenbauer, Jonas Geiping, Yuxin Wen, Manli Shu, Khalid Saifullah, Kezhi Kong, Kasun Fernando, Aniruddha Saha, Micah Goldblum, Tom Goldstein, On the Reliability of Watermarks for Large Language Models, 2023. https://arxiv.org/abs/2306.04634
- Rohith Kuditipudi, John Thickstun, Tatsunori Hashimoto, Percy Liang, Robust Distortion-free Watermarks for Language Models, 2023. https://arxiv.org/abs/2307.15593
- Zhengmian Hu, Lichang Chen, Xidong Wu, Yihan Wu, Hongyang Zhang, Heng Huang, Unbiased Watermark for Large Language Models, 2023. https://arxiv.org/abs/2310.10669
- Chenchen Gu, Xiang Lisa Li, Percy Liang, Tatsunori Hashimoto, On the Learnability of Watermarks for Language Models, 2023. https://arxiv.org/abs/2312.04469
- Hanlin Zhang, Benjamin L. Edelman, Danilo Francati, Daniele Venturi, Giuseppe Ateniese, Boaz Barak, Watermarks in the Sand: Impossibility of Strong Watermarking for Language Models, Proceedings of the 41st International Conference on Machine Learning, 2024. https://proceedings.mlr.press/v235/zhang24o.html
- id774, 意味は差異の読み取りから生まれる（2026-05-09）. https://blog.id774.net/entry/2026/05/09/4740/
- id774, 時間はなぜ一方向に進むのか（2026-04-26）. https://blog.id774.net/entry/2026/04/26/4613/
- Rohan Taori, Tatsunori Hashimoto, Data Feedback Loops: Model-driven Amplification of Dataset Biases, Proceedings of the 40th International Conference on Machine Learning, 2023. https://proceedings.mlr.press/v202/taori23a.html
- Tom Sander, Pierre Fernandez, Alain Durmus, Matthijs Douze, Teddy Furon, Watermarking Makes Language Models Radioactive, 2024. https://arxiv.org/abs/2402.14904
- Ilia Shumailov et al., AI models collapse when trained on recursively generated data, Nature 631, 2024. https://www.nature.com/articles/s41586-024-07566-y
- Mohamed El Amine Seddik, Suei-Wen Chen, Soufiane Hayou, Pierre Youssef, Merouane Debbah, How Bad is Training on Synthetic Data? A Statistical Analysis of Language Model Collapse, 2024. https://arxiv.org/abs/2404.05090
- Matthias Gerstgrasser et al., Is Model Collapse Inevitable? Breaking the Curse of Recursion by Accumulating Real and Synthetic Data, 2024. https://arxiv.org/abs/2404.01413
- Quentin Bertrand, Avishek Joey Bose, Alexandre Duplessis, Marco Jiralerspong, Gauthier Gidel, On the Stability of Iterative Retraining of Generative Models on their own Data, 2023. https://arxiv.org/abs/2310.00429
- id774, 構造・時間・生命・意味・知能・自己・AI を生成連鎖として説明する（2026-04-14）. https://blog.id774.net/entry/2026/04/14/4438/
- id774, 知性はどこまで外部化されるのか（2026-04-17）. https://blog.id774.net/entry/2026/04/17/4512/
- id774, AI だけが文章を書き続けるディストピアの果て（2026-07-27）. https://blog.id774.net/entry/2026/07/27/5121/
- Sumanth Dathathri et al., Scalable watermarking for identifying large language model outputs, Nature 634, 818–823, 2024. https://www.nature.com/articles/s41586-024-08025-4
- Anthropic, How Claude’s text watermark works（2026-08-14）. https://www.anthropic.com/news/claude-text-watermark
- Sven Gowal et al., SynthID-Image: Image watermarking at internet scale, 2025. https://arxiv.org/abs/2510.09263v1