「中立」とみなされ再生成されるのは、誰の視点か――由来を失った言葉の循環

Seo Seungchul
6月21日
読了時間: 13分

シリーズ: 論文渉猟

◆今回の論文：Hannah Waight et al., "State media control influences large language models" （Nature, 2026年5月13日）

概要：世界中の人々がLLM（大規模言語モデル）に情報を尋ねる時代に、モデル自体に「誰が、何が」影響を与えているのかを問うた論文。6つの研究を通じて、各国の国家によるメディア統制が、訓練データを介してすでにLLMの出力に影響していることを示す。報道自由度の低い国の言語ほど体制に好意的な応答が出やすいという国際比較を起点に、中国メディアの詳細なケーススタディでその経路を跡づけた。

大規模言語モデルをめぐる議論では、「AIにも社会のバイアスが映る」という指摘が、いささか使い古された形で繰り返されてきた。人種、性別、階級、国家、宗教、文化、政治的立場。社会に存在する偏りがテキストに刻まれ、それを学習したモデルの出力にも反映される。重要な問題ではある。だが、それだけなら議論としてさほど新しくはない。

最近のNature論文も、大きく見ればこの系譜に属する。だが、この論文の本当の価値は、偏りの存在を告発したことにはない。価値は、その偏りがどのような制度的経路をたどってモデルに入り込むのかを、測定可能な形で跡づけた点にある。そして、その経路をたどっていくと、私たちは思いがけず遠い場所——「誰が、何を、当たり前の説明として流通させるのか」という、公共圏の最も静かな争点——に行き着くことになる。本稿は、論文の中身を丁寧に確認したうえで、その先へ歩を進めてみたい。

「AIにバイアスがある」の、その先

これまでのAIガバナンス論が注目してきたのは、おおむね次のような論点だった。モデルを誰が所有しているのか。政府がモデル企業をどう規制しているのか。企業はポストトレーニングやガードレールで何を抑制しているのか。AIは人間をどこまで説得できるのか。いずれも、モデルの内側か、その出口に関わる問いである。

この論文は、そこから問いを一段ずらす。モデルを誰が直接操作するか、ではなく、モデルが学習する情報環境を誰が形成するか、を問うのだ。国家や強力な制度主体は、AI企業に直接命令しなくても、訓練データに入り込むテキスト環境を作ることで、モデルの応答傾向を間接的に変えうる。これが論文の中核的な仮説である。

その傍証として、まず37カ国を横断した監査が置かれる。各国の主要言語とその国の報道自由度を突き合わせると、報道自由度の低い国の言語で質問するほど、モデルの応答がその国の体制に好意的になる傾向が見える。ただし著者たちは、ここで踏みとどまる。これは相関であって、因果ではない。報道自由度の低さと体制好意的な応答が連動して見えても、その間にどんな経路が走っているのかは、相関だけからは特定できない。

六つの研究が跡づけたもの

論文の説得力は、この相関を放置せず、一国を詳細なケースとして取り出し、因果の機制へと議論を収束させていく手続きにある。

まず、国家が調整したメディアの文言が、Common Crawl由来の巨大な多言語データセットに実際に含まれていることを確認する。重要なのは、国家系の公式ドメインから直接来た文書だけが問題なのではない、という点だ。統制された文言が転載・引用・再配信を通じてウェブ全体に広がり、その結果としてクロールに拾われる。国家が公式サイトに宣伝を置いたから入る、という単純な話ではない。情報環境そのものに一定の言い回しを流せば、企業がウェブを機械的に収集するだけで、それがモデルに混入しうる。

次に、商用モデルがそうした特徴的なフレーズを記憶していることを、前半だけを与えて後半の再現を見る手法で示す。さらに、オープンウェイトのモデルにそうした文書を追加で事前学習させると、政治制度や指導者に関する応答が政府に好意的な方向へ動く。注目すべきは、この効果が学習させた言語に閉じないことだ。表現空間が言語をまたいで重なっているため、効果は近縁の言語や日本語・韓国語にも波及し、英語にすら弱く現れる。続く研究は、研究者が作った質問でも、実際の利用者が投げた質問に近いデータでも、同じ言語で聞くほうが体制に好意的になることを確かめ、最後に37カ国へと一般化する。人間による評価では、ある国に関する質問で、その国の言語による応答のほうが体制に好意的だと判定された割合が四分の三を超えた。

著者たちは限界も率直に認めている。測定は追跡しやすい一部の経路を捉えたにすぎず、自己検閲や編集方針の影響まで含めれば実態はもっと大きいだろうこと。追加学習の実験は商用モデルの複雑な訓練過程を完全には再現していないこと。国際比較は相関にとどまること。だがこの慎重さこそ、論文の射程を支えている。単一の決定的証拠ではなく、複数の独立した証拠を一点に収束させることで蓋然性を積み上げる——社会科学が決定実験を持ちえない領域で取りうる、誠実な方法である。

論文自身が到達した含意は明快だ。LLMは、単にインターネットを学習しているのではない。権力によってあらかじめ形成されたインターネットを学習している。そして、戦略的なレトリックを、客観的な情報の顔をした出力へと洗い替えてしまう。

AIは、何を学んでいるのか

この発見を「強い情報統制を敷く国の宣伝がAIに漏れた」という話だと受け取ると、射程を読み損なう。ケースとして選ばれた一国は、条件が揃いすぎているからこそ選ばれた。メディア統制が強く、文言が一貫し、量が多く、しかも公開されている。影響が見えやすい。だが見えやすいことと、特殊であることは違う。

同じ構造は、統制の強い国に限られない。国家の力が強い言語圏では国家の言説が入りやすい。商業メディアが分厚い領域では商業的な語彙が入りやすい。検索対策の記事が厚い分野では、薄く標準化された説明が入りやすい。企業広報が支配的な産業では、企業に都合のよい前提が入りやすい。学術文献が厚い分野では、学術制度の分類や問いの立て方が入りやすい。

つまり、AIが学んでいるのは社会そのものではない。テキスト化され、公開され、反復され、機械に読まれやすい社会である。そして、その「収集されやすい社会」は、中立な社会ではない。ここに一つの非対称が走っている。社会に向けて大量に、継続的に文章を供給し、それを複数の媒体に流通させ、公式性や専門性をまとわせ、検索可能な形で残せる主体がいる。国家機関、大企業、大手メディア、大学、国際機関、検索上位を狙う記事の作り手。彼らは単なる発言者ではなく、言葉が流通する基盤そのものを握る主体である。だから、AIの出力に現れる偏りは、社会全体の平均ではない。文章として残りやすい社会の、偏った投影なのだ。

反映から、再生産へ

ここまでは、まだ「社会の偏りがAIに反映される」という話の範囲にある。問題は、その先で起きる。

従来、社会の偏りは人間が書いた文章として残された。新聞、教科書、論文、政策文書、広告、ネット記事。その蓄積がモデルの教材になった。ところがLLMが普及すると、構造が循環しはじめる。社会の言説がモデルを作り、モデルが新しい言説を作り、その言説がウェブや資料や記事に流れ込み、さらに次の世代のモデルの教材になる。ここでLLMは、社会の鏡ではなくなる。鏡であると同時に、増幅器になる。

しかも、その増幅は単なるコピーではない。LLMは露骨な主張をそのまま繰り返すとは限らない。むしろ、より穏当で、読みやすく、教育的で、中立的に見える文章へと変換する。国家の主張は背景説明になる。企業広報は比較記事になる。検索対策の浅い情報は一般的な知識になる。多数派の価値観は常識的な整理になる。

この変換の働きは、検索エンジンと比べると差がはっきりする。検索エンジンは既存の文書を順に並べるだけで、利用者は一応その出どころを見られる。LLMは違う。複数の文書を溶かし合わせ、一つの新しい文章として統合して差し出す。誰の言葉なのかが、構造的に見えなくなる。整理すれば、LLMに固有の働きは四つある。新しい文を生成すること。露骨な主張を穏当な説明へと文体変換すること。利用者ごとに言い方を適応させること。そして、生成物が次世代モデルの教材になりうること。

ここに、より深い危険がある。偏った言説が、偏った言説として現れるなら、まだ批判しやすい。宣伝は宣伝として、広告は広告として読める。しかしLLMは、それらを要約し、言い換え、整え、利用者の問いに合わせて差し出す。その結果、もとの出どころも意図も制度的背景も見えにくくなる。プロパガンダが、説明になる。広報が、情報になる。利害が、合理性になる。出どころを失った言葉が、中立の顔をして戻ってくる。

「バイアス」では、足りない

ここで「バイアス」という言葉そのものを、いったん手放したほうがよい。

なぜなら、完全に中立な説明など存在しないからである。どんな言葉にも、必ずどこかの視点がある。誰かにとっての自然さ、誰かにとっての普通。問題は、視点が存在することではない。視点の由来が見えなくなることである。これは誰の前提なのか。誰にとって自然な説明なのか。誰の利害が背景にあるのか。どの異論が省略されているのか。どの語彙が標準として扱われているのか。こうした問いが抜け落ちるとき、LLMの出力は、便利な回答であると同時に、由来不明の社会的前提を運ぶ媒体になる。

偏りが見えていれば、人はそれと闘える。反論し、比較し、修正できる。だが「一般的には」という顔で語られた瞬間、その視点は誰の主張でもなくなる。誰の主張でもないものには、反論しにくい。殴る相手が、消えているからだ。ここで問題は、技術の次元から公共圏の次元へと移行する。

政治学者のスティーヴン・ルークスは、権力を三つの顔として整理した。第一の顔は、対立する争点で相手を負かす力。第二の顔は、そもそも何を争点とし、何を議論の俎上に載せないかを決める力。そして第三の顔は、人々が何を当然とみなし、何を望ましいと感じるか——その認識の枠組みそのものを形づくる力にほかならない。最も目に見えにくく、最も抵抗しにくいのが、この第三の顔である。中立的な説明の顔をして特定の視点が流通するとき、作用しているのはまさにこの第三の力だ。ハーバーマスが描いた公共圏(Öffentlichkeit)——誰もが対等に理由を述べ合い、より良い論拠が勝つ討議の空間——は、何が「論拠」として通用し、何が「特殊な意見」として周縁に追いやられるかが、あらかじめ偏った形で配分されていれば、形だけのものになる。LLMが整えた中立的説明は、この配分を、誰の意図とも特定できないまま、静かに固定していく。

武器は配られた、しかし

とはいえ、議論を一方的な悲観へ振り切るのは誤りだろう。LLMは、文章を書く力を持たなかった個人や小規模な団体にも、その力を配った。翻訳、要約、反論の作成、政策提案、調査資料の整理。これまで専門的な文章作成能力を持たなかった主体が、公共的な議論に参加しやすくなる面は確かにある。

しかし、文章を生成できることと、その文章を公共空間に定着させることは、別である。生成する力は広く民主化されうる。だが、その文章を流通させ、信頼を与え、検索の上位に押し上げ、メディアに載せ、次世代モデルの教材に組み込ませる力は、依然として国家、大企業、大規模メディア、プラットフォーム、学術制度、国際機関に偏りやすい。書く力は配られた。読まれる力は、まだ配られていない。むしろ、生成・流通・信頼づけ・再学習を一つに束ねられる大規模な主体は、武器が安くなったぶん、以前よりさらに強くなる可能性すらある。全員にペンを配っても、印刷所を持つ者が優位に立つのと同じことだ。

そして円は閉じていく。生成物がウェブに溜まり、人間の書いたものと区別されないまま、次のモデルがそれを学ぶ。既存の前提が、整えられた姿で再び教材に入る。何が常識として通用するかが、人間とLLMの相互参照のなかで自己強化されていく。知識社会学者のマンハイムが、あらゆる認識は社会的な立ち位置に拘束されると論じたとおり、中立な認識という想定そのものが、すでに一つの社会的産物にほかならない。問題は中立性が不可能なことではなく、視点の由来が見えなくなり、反論と比較と修正の機会が痩せ細ることにある。

無バイアスではなく、由来の可視化を

だとすれば、目指すべきは「偏りのないAI」ではない。完全な中立を目標に掲げると、かえって支配的な視点が「中立」を名乗りやすくなる。必要なのは無菌室ではなく、この説明はどの視点から生成されたのか、どの主体の文章を多く参照しているのか、どの異論が省かれているのかを、問い直せる仕組みのほうである。訓練データの構成を透明にすること。出力がどの系統の情報に依拠しているかを示すこと。一つの中立的回答ではなく、複数の立場を並置すること。AI生成文が無秩序に再学習へ流れ込む循環を管理すること。商業ウェブだけに依存しない、公共性の高いデータ基盤を整えること。いずれも、由来を見えるようにするための制度的な手立てである。

最後に、日本語圏に引きつけて一点だけ付け加えたい。日本語は、言語と国家の結びつきが比較的強い。日本語のコンテンツの大半は日本社会に関係しており、日本語で応答するモデルには、日本のメディア環境や制度的な語彙が反映されやすい。ここで問われるべきは、強い国家統制メディアの混入というより、日本語圏で支配的に流通している説明形式や常識——大手報道の語彙、官庁文書の言い回し、都市の正社員を中心に据えた社会観、特定の労働観——が、どのように「中立的な回答」として再生産されるか、である。特定のメディアを名指しで批判する話ではない。誰の前提が標準扱いされ、誰の経験が学習されにくいのかを、自分たちの言語環境において問う話である。

公共圏を守るとは、誤情報を取り除くことだけではない。中立に見える言葉のなかに、どの社会が静かに再生産されているのかを見抜くことなのである。

ポイント整理

問いの移動——所有から、環境へ
- 従来のAIガバナンス論は、モデルの所有・規制・ガードレールという「内側と出口」を問うてきた。
- 本稿が引き継ぐ論文は、モデルが学ぶ情報環境を誰が形成するかという「入口の手前」へ問いを移す。
収集されやすい社会という偏り
- AIが学ぶのは社会そのものではなく、テキスト化・公開・反復・機械可読という条件を満たした社会である。
- それらの条件を満たせる主体は偏っており、出力の偏りは社会の平均ではなく、文章として残りやすい社会の投影になる。
反映から再生産への転換
- 従来のバイアス論は一方向の「反映」を想定した。
- LLMは文章生成そのものに入り込むため、学んだ偏りを新たな文章として社会へ戻し、それが次のモデルの教材になる循環が生まれる。
変換としての増幅
- LLMの増幅はコピーではなく変換である。露骨な主張を、穏当で中立的に見える説明へと言い換える。
- その結果、出どころ・意図・制度的背景が脱色され、特定の視点が客観的知識の外観で流通する。
問題の核心は、偏りより由来不明化
- どんな説明にも視点はあり、無バイアスは目標になりえない。
- 危険なのは視点があることではなく、その由来が見えず、反論・比較・修正の機会が失われることである。
生成の民主化と、定着力の集中
- 文章を生成する力は広く配られる。
- だが流通・信頼づけ・再学習の力は依然として大規模主体に集中し、両者は同時に進行しうる。

キーワード解説

【三角測量（トライアンギュレーション）】

単一の決定的な証拠が得られない問題について、性質の異なる複数の証拠を組み合わせ、結論を一点に収束させて蓋然性を高める方法。本稿で扱った論文は、相関を示す国際比較に、訓練データの確認・記憶の検出・追加学習の実験・実利用データの分析を重ね、因果の機制を浮かび上がらせている。

【権力の三つの顔】

政治学者スティーヴン・ルークスによる権力の整理。争点で勝つ第一の顔、何を争点にするかを決める第二の顔、そして人々が何を当然とみなすかという認識の枠組み自体を形づくる第三の顔からなる。第三の顔は最も不可視で、抵抗が最も難しい。中立に見える言説の流通は、この第三の顔の作用として捉えられる。

【公共圏】

ハーバーマスが論じた、人々が対等に理由を述べ合い、より良い論拠が勝つことを建前とする討議の空間。何が正当な論拠として通用し、何が周縁化されるかの配分が偏れば、その空間は形骸化する。AIが整える「中立的説明」は、この配分を不可視のまま固定する力を持ちうる。

【知識の社会的被拘束性】

あらゆる認識は、それを抱く者の社会的な立ち位置に拘束されるという、知識社会学（マンハイム）の基本命題。「視点を持たない中立な知識」という想定そのものが、特定の社会的条件のもとで成立する産物だという見方を支える。