偽の合意――民主主義の認識的前提と、AIのアーキテクチャ

Seo Seungchul
2 日前
読了時間: 12分

シリーズ: 知新察来

◆今回のピックアップ記事：Stephan Lewandowsky, "The architecture of the internet creates risks for democracy" (Science, 2026年6月4日)

概要：インターネットの民主主義へのリスクを、悪質なコンテンツの問題としてではなく、情報インフラ・推薦アルゴリズム・同質性ネットワークというアーキテクチャの問題として描く。ブロードバンド普及の準自然実験、アルゴリズム監査、偽の合意効果の三層を積み上げ、個別の誤情報対策では処理できない構造問題として提示する。

インターネットは民主主義を脅かすのか。この問いに対して、私たちはたいてい「悪い情報」を思い浮かべる。フェイクニュース、扇動、陰謀論。だが、Stephan Lewandowsky が2026年6月のScienceに寄せた論考は、その手前に視線を据える。問題は流れている情報の中身ではなく、情報が流れ、見え、つながる、その構造——アーキテクチャそのものにある、と。

本稿は、この論考を出発点に、三つの層を辿りながら、民主主義が暗黙に前提としてきた一つの条件を取り出す。そして後半、論考がほとんど触れていない問いへ踏み込む。生成AIは、このアーキテクチャの何を変えるのか。AIを新たな悪役に仕立てるためではない。むしろ、AIのアーキテクチャが、歪みの所在そのものをどこへ移すのかを見定めるためである。

削除なき変容——アーキテクチャという視点

Lewandowsky の議論の出発点は、奇妙なほど地味な事実にある。約20年前、米国でブロードバンドがどの地域に早く普及するかは、ケーブル敷設に関する州ごとの規制の差に左右された。この外生的なばらつきを利用すると、回線の利用可能性そのものが、相手陣営への敵意——情動的分極化を高めたことが見えてくる。英国や欧州でも、電話交換局からの距離といった物理的条件を用いた研究が、市民参加の低下、社会的信頼の毀損、極端な政党への投票の増加という、同じ方向の結果を示している。

ここで重要なのは、これらが単なる相関ではなく、準自然実験だという点だ。規制差や物理的距離という、人々の政治的傾向とは無関係な要因を介して、インフラの効果を切り出している。つまり、コンテンツの中身を一切問わずに、回線が通ったという事実だけで、政治的帰結が動いている。

この一点が、「土管は中立だ」という根深い想定を崩す。私たちは長らく、技術を価値中立の容れ物と見なし、問題は中身にあると考えてきた。だが筆者の見立てでは、

Lewandowsky の論考が突いているのは、容れ物の形そのものが中身の流れ方を規定する、という事実である。問われるべきは、悪い水ではなく、畑の畝の切り方なのだ。

可視性の配分という権力

では、そのアーキテクチャはどう作用するのか。第二の層は、プラットフォームの推薦アルゴリズムである。ここでLewandowsky が引く監査研究は示唆的だ。ある選挙期間中の監査では、若年層に推薦された政党関連コンテンツの相当部分が政治的に極端な勢力に関するもので、元の投稿比率に対して視聴者シェアが大きく増幅されていた。中道の勢力は、逆に抑制されていた。

注目すべきは、ここで何も削除されていないことだ。投稿は消されていない。変えられたのは、見える順番——可視性の配分である。検閲という言葉で私たちが思い描くのは、消去という目に見える行為だ。消された投稿には痕跡が残り、抗議の対象になりうる。だが、順位を下げられた声は痕跡を残さない。沈黙させられたのではなく、最初から存在しなかったかのように振る舞う。

政治学者スティーヴン・ルークス（Steven Lukes）は、権力には三つの顔があると論じた。争点で相手を屈服させる力、何が争点として浮上するかを左右する力、そして人々が自らの利害をどう認識するかという枠組みそのものを形づくる力。可視性の配分は、この第三の顔の技術的実装にほかならない。誰が何を見るかを設計することは、人々が世界をどう認識するかを、本人の気づかぬところで規定することだからである。ここで問われているのは、何が許されるかではない。何が見えるか、という、それより一段手前の水準だ。

つながる自由が生む断片化

第三の層は、より根源的だ。ソーシャルメディアの本質的な特徴として、Lewandowsky は同質性を挙げる。人は自分と似た者とつながりやすい。これ自体は何ら病ではない。むしろ、つながれることは喜びであり、社会的動物としての自然な傾きだ。

問題は、その自然な傾きが、規模を得たときに別のものへ転じる点にある。現実空間では数が少なく地理的に散らばっている考えの持ち主も、オンラインでは容易に互いを見出し、濃密な共同体を形成できる。地球平面説の信奉者ですら、世界中から集まれば一つの世界を持てる。個々人は、ただ気の合う相手を探しているにすぎない。にもかかわらず、その無数の選択の総和が、公共の認識を断片化させていく。

ここには、集合行為論の反転がある。経済学者エリノア・オストロム（Elinor Ostrom）は、中央の権力が介入せずとも、当事者たちが自らルールを編み出し共有資源を持続的に管理しうることを、事例の積み重ねによって示した。自発的秩序は、しばしば良きものを生む。だが同質性ネットワークが示すのは、同じ自発性が逆向きに働く可能性である。誰も設計せず、誰も命令しない秩序が、認識の共有地を侵食していく。ここに悪役はいない。そして、叩くべき主体の不在こそが、この問題を、削除すべき投稿を探す発想では捉えられないものにしている。

偽の合意——民主主義の認識的前提

この断片化が生む帰結を、Lewandowsky は偽の合意効果と呼ぶ。自分のタイムラインが特定の意見で埋まると、人はそれを社会全体の多数意見だと誤認する。たとえ子どものワクチンの安全性を米国成人の9割が支持していても、自分の周囲がそう見えなければ、誤認は揺るがない。ドイツの大規模研究は、自分の立場への支持を体系的に過大評価する人ほど、左右を問わずポピュリズム的態度——人民主権の強調、反エリート主義、善悪二元論的世界観——を強く示すことを確認している。

ここで筆者が強調したいのは、ポピュリズムの語彙が、扇動によってではなく、認識の歪みから自然発生するという点だ。自分の意見が多数派だと信じる者は、それが実際には少数派でも、多数派の委任に基づく統治に納得できない。普通の人々、遠いエリート、裏切られた民意——この語彙は、誰かが吹き込んだものではなく、歪んだ鏡を見た者の内側から湧き出てくる。問題を扇動者の悪意に帰す議論は、ここで足場を失う。

問題の核心は、ここで民主主義の暗黙の前提が露わになることにある。民主主義は多数決の手続きだと思われがちだが、その手前に、人々が世論の分布をそれなりに正確に見渡せている、という認識的前提がある。哲学者ユルゲン・ハーバーマス（Jürgen Habermas）が公共圏と呼んだものは、意見が表明される場であると同時に、社会が自らの意見状態を自らに対して可視化する装置であった。偽の合意効果が侵食するのは、個々の信念の正しさではなく、この相互の見通し——社会が自らを認識する条件そのものである。

ベネディクト・アンダーソン（Benedict Anderson）は、国民を想像の共同体と呼んだ。会ったことのない無数の他者を同じ仲間として想像する営みが、近代の政治共同体を支えている。だが、その想像の材料がタイムラインに置き換わるとき、私たちは歪んだ鏡を見ながら「世間」を想像することになる。ルソーが一般意志と全意志を区別したことを想起すれば、事態の厄介さが見えてくる。皆が「自分の意見こそ本当の民意だ」と感じるとき、その全員が嘘をついているわけではない。各人は、自分に与えられた鏡を信じているだけだ。それぞれの鏡が、それぞれに本当である——だからこそ、共通の地平が失われていく。

AIのアーキテクチャ——再配分から生成へ

ここまでが、Lewandowsky の論考の射程である。だが、この論考はある変数にほとんど触れていない。生成AIだ。論考の描く構造は、いわばAI以前、あるいはAI初期のアーキテクチャを前提にしている。では、生成AIは、この構造の何を変えるのか。

急いで付け加えれば、これはAIを新たな悪役に仕立てる議論ではない。腐食の目的——集合的自己認識の歪み——は、Lewandowsky の診断とそのまま連続している。変わるのは手段としてのアーキテクチャであり、その変化は二つの転換として現れる。

第一の転換は、再配分から生成へ、である。推薦アルゴリズムは、既存の声を並べ替えていた。実在する人々が書いた投稿の、可視性を操作していた。だが生成AIは、声そのものを産み出す。偽の合意効果を駆動する「周囲の何人がそう考えているか」という手がかりは、これまで実在する人口という上限に縛られていた。生成のアーキテクチャは、その上限を外す。鏡はもはや、歪むだけではない。誰にも対応しない反射によって埋められうる。

第二の転換は、より静かだが、おそらくより深い。人々が世論を推し量る対象が、自分のネットワークから、モデルへと移る。「世間はどう思っているか」を、人はやがてネットワークの観察ではなく、大規模言語モデルへの問いとして処理するようになる。LLMのアーキテクチャは、本質的に「これまで言われてきたこと」の統計的圧縮だ。問いに対して返ってくるのは、その圧縮された平均像である。

ここで病理の向きが反転することに注意したい。Lewandowsky が描いたのは、分散した断片化——無数の偽の合意が乱立し、各人が別々の鏡を見る状況だった。だが、単一のモデルが返す平均像を皆が参照するようになれば、事態は逆を向く。断片化ではなく、中央化された合成的合意。来歴を辿れない一つの声を、全員が等しく聞くことになる。

そして、この圧縮には二つの構造的性質がある。一つは、それが熟議ではなく統計だということだ。LLMは尤もらしい言葉の連なりを生成するのであって、理由を通じて意見を形成するのではない。ルソーの語彙を借りれば、一般意志が全意志の統計的圧縮へと置き換わる危険がある。理由を交わして共通の意志に至る過程が省かれ、これまで言われてきたことの平均だけが残る。もう一つは、不透明性の深化だ。Lewandowsky の言う不透明さが「ランキング規則を見せない」ことだとすれば、LLMの不透明さは「見渡せる規則がそもそも存在しない」ことにある。表現は数十億の媒介変数に分散しており、民主的監督が要求する透明性を、アーキテクチャそれ自体が拒む。

鏡を、誰が握るのか——統治の捻れ

Lewandowsky の論考は、保護的措置の提案で閉じられる。アルゴリズムの脱バイアス化、そして人々が自分の意見の社会的分布を正確に把握できるようにする較正ツール。方向としては正しい。だが、筆者の見立てでは、最も困難な問いはその先に残る。

歪んだ鏡を直すという発想は、直す主体を要請する。誰が、何を反民主主義的と判定し、どの可視性を、どれだけ下げてよいのか。国家がそれを担えば検閲の影が差し、私企業が担えば、公共圏の私的支配となる。どちらの手も、信頼を全面的に預けるには足りない。

ここにAIのアーキテクチャが重なると、困難は三重になる。歪みを生む鏡も、歪みを正す鏡も、同じモデルの上にある。そのモデルは、たいてい単一で、国境をまたいでいる。科学技術社会論のシーラ・ジャサノフ（Sheila Jasanoff）は、技術の秩序と社会の秩序が互いを形づくりながら同時に生成される過程を共産出と呼んだが、AIによって媒介される情報環境では、その共産出の単位が、もはや一国の境界に収まらない。すなわち、認識の鏡はグローバルに単一でありながら、それを正統に統治しうる政治的権限はナショナルに分散し、しかもその鏡の内部は誰にも完全には監査されえない。

この三重の不整合に、本稿はきれいな解を持たない。持たないことを、ここでは隠さずに置いておきたい。少なくとも、アルゴリズムを直せば済むという話ではないことは、はっきりしている。私たちが「世間」を想像するとき、その想像の材料を、いま何が握っているのか。誰が、いかなる権限に基づいて、誰のために、その鏡を治めるのか。この問いは、解かれないまま、しかし回避もされえない形で、私たちの手元に残されている。

ポイント整理

問題はコンテンツではなくアーキテクチャ
- 民主主義へのリスクは、流れる情報の真偽ではなく、情報が流れ・見え・つながる構造そのものに宿る。ブロードバンド普及の準自然実験は、回線が通った事実だけで政治的帰結が動くことを示し、「土管は中立」という想定を崩す。
削除ではなく可視性の配分
- アルゴリズムは投稿を消すのではなく、表示順位を変える。沈められた声は痕跡を残さず、抗議の対象にもならない。検閲の概念は、消去から可視性の操作へと更新を迫られる。
自発性の反転としての断片化
- 似た者とつながる自然な傾きが、規模を得て公共の認識を断片化させる。悪役の不在ゆえに、削除発想では捉えられない構造的問題となる。
民主主義の認識的前提
- 民主主義は手続きの手前で、人々が世論の分布を見渡せていることを前提とする。偽の合意効果はこの相互の見通しを侵食し、ポピュリズムの語彙を扇動ではなく認識の歪みから自然発生させる。
AIアーキテクチャの二つの転換
- 再配分から生成へ——偽の合意の手がかりが実在人口の上限を外れる。ネットワークからモデルへ——分散した断片化が、中央化された合成的合意へ反転する。
鏡の統治という三重の捻れ
- 認識の鏡はグローバルに単一、統治の権限はナショナルに分散、鏡の内部は監査不能。この不整合に、容易な解はない。

キーワード解説

【準自然実験】

規制の差や物理的距離など、研究対象の性質とは無関係な要因を利用して、因果効果を相関から切り分ける手法。ブロードバンド研究では、ケーブル敷設規制の州ごとの違いを用いることで、回線普及そのものの政治的影響を推定している。

【情動的分極化】

政策的意見の隔たりではなく、相手陣営への感情的な嫌悪・不信・敵意が強まる現象。民主主義は意見対立を前提とするが、相手を正当な政治的相手と認める最低限の信頼が崩れると、制度の運用が困難になる。

【三次元的権力】

政治学者スティーヴン・ルークスによる権力の分類。争点で相手を屈服させる第一の顔、何が争点になるかを左右する第二の顔、人々の認識の枠組み自体を形づくる第三の顔からなる。可視性の配分は、この第三の顔に対応する。

【偽の合意効果】

自分の周囲の意見分布を、社会全体の分布だと誤認する認知傾向。同質性の高いネットワークでは、少数意見が多数派のように見え、その信念が強固化するとともに、多数派の委任に基づく統治への不信を生む。

【共産出】

科学技術社会論のシーラ・ジャサノフによる概念。技術的な秩序と社会的・政治的な秩序が、どちらかが先行するのではなく、互いを形づくりながら同時に生成されるという見方。AIによる情報環境の統治を考える際、その単位が国境を超える点が問題化する。

【大規模言語モデル】

膨大なテキストを学習し、統計的に尤もらしい言葉の連なりを生成するAI。「これまで言われてきたこと」の圧縮として機能するため、意見の形成ではなく再生産を行い、その内部規則は無数の媒介変数に分散して見渡しがたい。