恣意的なアルゴリズムに振り回される情報環境──可視性の配分と公共圏
- Seo Seungchul
- 8月2日
- 読了時間: 13分
シリーズ: 知新察来
◆今回のピックアップ記事：Rob Mitchum, "Can We Take the Doom Out of Scrolling?" (Kellogg Insight, 2026年5月27日)
概要： エンゲージメント重視型のアルゴリズムがSNS上の分断・敵意を増幅しているのではないかという仮説を、Bluesky上での実地実験で検証した研究。2024年米大統領選挙の前後8週間、2000人の参加者を異なるフィード条件に割り当て、通常のエンゲージメント型フィードと、極端なユーザーの過剰な影響力を抑える新アルゴリズムを比較した。
SNSを開くたびに、少し疲れる。政治の話でなくても、映画の感想ですら誰かが誰かを叩いている。世の中は、思っていたよりずっと殺伐としている。そう感じたことのある人は少なくないはずだ。
だが、この感覚は正確なのか。社会そのものがそうなったのか、それとも、社会をそう見せている何かがあるのか。この問いに実験的な答えを出そうとした研究がある。
実験室ではなく、実際のSNSで検証された
Blueskyという場所を選んだのには理由がある。ユーザーが自らフィードを作れるこのプラットフォームは、研究者にとって、実験室の外で本物のアルゴリズムを走らせられる稀な場所だった。
研究チームはまず、2000万件を超える投稿を分析し、会話の基準線を確認した。政治的な言語を含む投稿は全体のおよそ4分の1、有害と分類された投稿は6パーセント、内集団意識・道徳・感情に関わる投稿は16パーセント弱。これが、いわば「編集される前」の会話の実像である。
その上で、2000人の参加者を、2024年米大統領選挙をまたぐ8週間、三種類のフィードにランダムに割り当てた。単純な逆時系列フィード。X やFacebook、TikTokに近いエンゲージメント重視のフィード。そして、研究チームが独自に設計した、極端なユーザーの影響力を抑える新しいアルゴリズムである。
結果は、予想の線をなぞりながら、いくつかの点で予想を超えていた。
エンゲージメント重視のフィードを見たユーザーは、選挙後、逆時系列フィードのユーザーに比べて政治的な投稿への露出が57.3パーセント多かった。内集団・道徳・感情に関わる投稿、有害な投稿も同様に増えていた。
僕がまず引っかかったのは、この57.3パーセントという数字そのものではない。むしろその後だ。研究チームは、こうした投稿にユーザーが実際に反応していたわけではないことも確認している。反応していないのに、なぜそれが目に入るのか。
答えは単純だった。ごく少数の、過剰に活動的なユーザーが生産した投稿が、ネットワークの周縁から全体へと広がっていた。ブレイディ(William Brady)はこれを、少数の極端な声を「情報環境の代表」であるかのように押し上げる作用として説明している。少数者が、あたかも多数派であるかのように可視化される。これは古くから権力論が扱ってきた、代表性をめぐる問いの、SNS時代における新しい現れにほかならない。
検閲でも自由放任でもない、第三の道
ここでもう一つ、この研究の重要な発見がある。研究チームが用意した新しいアルゴリズムは、投稿の内容そのものを判断していない。何が正しいか、何を削除すべきかという規範的な選別は一切行わず、ただ、過剰に増幅されがちな極端なユーザーの音量を平準化しただけである。
「私たちは政治的に極端なユーザーの影響力を減らそうとしている。しかし、コンテンツそのものについてトップダウンの判断は何もしていない」とブレイディは述べている。これは検閲でも野放しでもない、可視性の配分そのものを調整するという第三の設計思想だ。
その結果、新しいアルゴリズムを見たユーザーは、内集団・道徳・感情に関わる投稿、有害な投稿、政治的な投稿への露出が、エンゲージメント重視フィードに比べて減少した。しかもそれは、投稿を狙って除去した結果ではなく、極端な発言者への過剰な重みづけを是正した副産物として生じている。
ここで問いの構造そのものが変わる。SNS改革をめぐる従来の議論は、多くの場合「何を消すべきか」という表現の自由と検閲の二項対立に落ち込んできた。しかし、この実験が示したのは、問題の所在がそこにはないという診断である。極端な発言そのものが害悪なのではない。極端な発言が、あたかもネットワーク全体の意見であるかのように増幅されることが害悪なのだ。可視性の配分——何をどれだけ代表的に見せるか——こそが、争点として立ち上がってくる。
感じている分断は、実際の分断と同じではない
さらに興味深いのは、フィードが変わることで、投稿の露出だけでなく、ユーザーの社会認識そのものが変わったという結果である。
エンゲージメント重視フィードを見た人々は、社会規範の認識において不正確になり、党派的な敵意を過大に見積もる傾向を示した。自分のネットワークが、実際以上に相手陣営を嫌っていると感じるようになったのである。
だが、逆方向の結果もある。同じユーザーたちは、有害な言葉遣いをより多く目にしていたにもかかわらず、自分のネットワークがそれをどれほど許容しているかについては、むしろ過小評価していた。
なぜこんな捻れが起きるのか。ブレイディの解釈はこうだ。有害な発言にはしばしば反発や炎上がセットで付随する。その反発を見た人は、「これほど争いが起きているということは、この言動は本当は受け入れられていないのだろう」と読み替えてしまう。
つまり、エンゲージメント型のフィードは二重に現実を歪めている。一方では、実態以上に敵意を標準であるかのように見せる。他方では、その敵意をめぐる衝突までも可視化するがゆえに、「みんなが争っている」という感覚だけがいっそう強まる。炎上は、逸脱への処罰のシグナルとして機能しながら、同時に分断の実感を底上げしてしまう。ここに、単純な「有害コンテンツを減らせばよい」という発想では捉えきれない構造がある。
そして、この歪みを抑えた新しいアルゴリズムのユーザーは、体験の満足度を落とすどころか、エンゲージメント型フィードのユーザーよりもプラットフォームを楽しんでいたという。刺激を減らせばユーザーは離れる、というSNS業界の暗黙の前提は、少なくともこの実験では支持されなかった。
閉じた輪の外へ、しかし単純にではなく
極端な声の過代表を抑えることは、間違いなく重要な一歩だ。だが、それだけでは足りない。極端な声を抑えても、各人が同質的な集団の中に留まり続けるなら、相互の理解は深まらないままだからである。
社会ネットワーク論には、この点で示唆的な蓄積がある。グラノヴェッター(Mark Granovetter)が「弱い紐帯の強さ」として論じたように、密な結束の内側にある強い絆よりも、疎な関係にある弱い絆の方が、集団の外から新しい情報を運び込む機能を果たす。この論理をフィード設計に応用すれば、閉じたクラスターの内部だけを循環させるのではなく、外部との接点を意図的に組み込む設計が構想できる。
しかし、ここで単純に「反対意見への露出を増やせばよい」と考えるのは早計だろう。異なる政治的立場への接触が、かえって分極化を強めうるという実証結果は、すでに指摘されている。突然差し込まれた敵対陣営の最も挑発的な投稿は、相互理解ではなく防衛反応と確証バイアスを呼び込みやすい。「ほら、やっぱりあちらの人たちはこうだ」という確認作業に終わってしまう。
必要なのは、異論一般への接触ではない。自分の問題意識と一部重なりながら、結論や優先順位は異なる。相手側の懸念を部分的に認めている。そうした、近すぎず遠すぎない、橋渡し可能な異質性への接触である。多様性の最大化を目指すなら、奇抜な意見や極端な意見を混ぜれば数字の上では達成できてしまう。だが、それでは何の解決にもならない。求められているのは、認知的に消化可能な形での異質性にほかならない。
クラスターは発見ではなく、再記述である
ここで、閉じた輪の外へ橋を架けようとする発想そのものが、避けがたい難題を抱えていることに気づく。そもそも「クラスターの外」とは、何を基準に定義されるのか。
フォロー関係で切るのか。いいねやリポストで切るのか。発言内容や感情のトーンで切るのか。基準を変えれば、まったく異なる集団像が浮かび上がる。しかも同じ個人であっても、争点ごとに立場は変わりうる。経済政策では市場寄りでありながら、AI規制には慎重、外交には現実主義的、文化的な争点にはリベラル。こうした組み合わせは、何ら特殊な事例ではない。
だとすれば、ユーザーを単一の政治的陣営に固定するクラスタリングは、現実を粗く潰す操作にならざるを得ない。イシューごとに異なるグラフを持つ、いわば争点連動型の多層ネットワークとして扱う必要が出てくる。
しかし、より根本的な問題はその先にある。クラスタリングという技術的操作は、既存の社会構造を中立的に発見しているように見えて、実際には社会を新たに切り分け、再記述する行為でもあるという点だ。何を「極端」とみなすか、何を「橋渡し可能」とみなすかという判定は、統計処理の体裁を取りながら、その内実において規範的な選別を含んでいる。
したがって、「中立なアルゴリズムを設計すればよい」という発想そのものが、成立しないことになる。必要なのは恣意性を消去することではなく、その恣意性の所在を可視化し、外部から検証可能な形で残しておくことである。中立性を装うことは、むしろこの恣意性を見えなくしてしまう点で、統治にとって逆効果になりかねない。
発言だけを見ると、相手は記号になる
SNS上の対立が、しばしば宗教論争めいた様相を帯びるのはなぜか。一つの答えは、発言がその背景から切り離されて流通するからだ、というものだろう。
その人が何を経験し、何を恐れ、何を守ろうとしているのか。どんな制度的制約のもとで判断しているのか。こうした背景が消えたとき、対立者はもはや一人の人間ではなく、「保守」「リベラル」「意識高い系」といった陣営を示す記号になる。同じ「規制すべきだ」という結論であっても、労働者の権利を心配してのことか、安全保障の観点からか、独占を警戒してのことかによって、その意味はまったく異なる。にもかかわらず、記号としての発言だけが流通する場では、その違いは見えなくなる。
必要なのは、相手の立場を頭の中で想像する営みだけではない。相手がなぜそう考えるのかを、本人の文脈から知ることである。ただし、この文脈提示には重い代償が伴う。本人が明示していない属性をアルゴリズムが推定して表示すれば、それはプライバシーの侵害になりかねない。「地方出身だから」「高所得だから」という属性的な先入観を、かえって強化する危険もある。当事者性そのものが正当性の根拠になれば、それは別種の序列争いを生むだろう。
だからこそ、文脈は発言の正しさを保証する権威づけの材料としてではなく、発言の意味を理解するための補助情報として扱われなければならない。文脈は解釈の道具であって、判定の道具ではない。この一線をどこに引くかは、技術設計の問題であると同時に、倫理的な線引きの問題でもある。
技術の話は、統治の話になる
ここまで積み上げてきた論点——極端な声の過代表を抑えること、橋渡し可能な異質性への接続、文脈の付与——を並べてみると、一つの共通点が見えてくる。どの設計にも、消しきれない恣意性が残るという点だ。
だとすれば、この問題はもはや技術だけの話では済まない。可視性・代表性・文脈・接触距離という、公共圏を形づくる資源を、誰が、どの目的関数のもとで配分するのか。これは統治の問いにほかならない。
市場に委ねれば、広告収益とエンゲージメントを最大化する目的関数に従属する。これは運営者の悪意によるものではない。悪意がなくとも、目的関数がそうであれば、情報環境は自然とその方向へ歪んでいく。国家に委ねれば、「健全な公共圏」や「誤情報対策」を名目にした言論統制の危険が生じる。ユーザーに全面的な選択を委ねれば、多くの場合デフォルトの設定と認知負荷に負けてしまう。
オストロム(Elinor Ostrom)がコモンズの統治について論じたように、共有される資源の管理は、単一の中央集権的な主体による統制にも、単純な市場化・私有化にも解消できない。当事者による多層的なルール形成と監視の仕組みこそが、持続可能な統治を可能にする。可視性という、公共的な性質を帯びた資源の統治にも、同じ構図が当てはまるだろう。
必要なのは、単独の主体による統治ではなく、目的関数の透明化、外部監査、ユーザーの選択権、異議申し立て可能性を組み合わせた複合的なガバナンスである。EUのデジタルサービス法(DSA)は、大規模プラットフォームにシステミックリスクの評価や研究者アクセスを義務づける枠組みとして、この方向の一つの萌芽といえる。ただし、実際の研究者アクセスやデータ開示にはなお大きな限界が指摘されており、この制度がまだ発展の途上にあることも同時に見ておく必要がある。
制度化の萌芽はある。だが、社会的現実の見え方を編集する権力を統治する枠組みとしては、まだ十分に成熟していない。
見え方を作っているのは誰か
言論の自由をめぐる伝統的な議論は、主に「何を言えるか」を問うてきた。しかし、この研究が突きつけているのは、それとは別の次元の問いである。何が見えるか。誰の声が社会の代表として表示されるか。どの他者が、理解可能な存在として提示されるか。
発言が削除されていなくても、ランキングで沈められれば、それは社会的には見えにくくなる。少数の声であっても、繰り返し表示されれば、多数派であるかのように感じられる。SNS時代の権力は、沈黙させる権力ではなく、代表性を操作する権力である。削除する権力ではなく、見せ方を変える権力である。
この研究が示した希望は小さくない。極端な声の音量を下げるだけで、ユーザー体験を損なわずに分断的な露出を減らせるという結果は、SNS企業が長らく前提としてきた「刺激を減らせばユーザーは離れる」という命題への、具体的な反証になっている。技術的には、より良い設計は可能だ。
しかし、この技術的な希望を、恣意性の統治という難題から切り離してしまえば、私たちはただ、一つの見えない権力を、また別の見えない権力に置き換えるだけに終わるだろう。問うべきは、この可視性という資源を、誰が、どの目的関数で、どの責任のもとに配分するのか。私たちはまだ、その問いに十分な答えを持っていない。
ポイント整理
可視性の配分こそが争点である
問題は有害な投稿の量ではなく、何がどれだけ代表的に見えるかという配分の設計にある
diversified extremity algorithmは内容の検閲ではなく、極端なユーザーの音量調整だけで分断的な露出を減らした
感じている分断は、実際の分断そのものではない
エンゲージメント型フィードは党派的敵意の知覚を強める一方、有害言語への許容度はむしろ過小評価させる
この二重の歪みが、「みんなが争っている」という実感を底上げする
橋渡しは単純な異論接触ではない
弱い紐帯の理論は示唆的だが、粗雑な反対意見の提示はかえって分極化を強めうる
求められるのは、近すぎず遠すぎない、理解可能な異質性への接触である
クラスタリングは発見ではなく再記述である
何を基準に集団を切るかで、見える社会像は変わる
中立なアルゴリズムという発想は成立せず、恣意性を可視化・監査可能にすることが課題になる
最終的な問いは統治に行き着く
市場・国家・ユーザーいずれにも全面委任できない
目的関数の透明化、外部監査、選択権、異議申し立て可能性を組み合わせた複合的統治が必要になる
キーワード解説
【diversified extremity algorithm】
研究チームが設計した、極端なユーザーの影響力を抑えるアルゴリズム。投稿内容の検閲や政治的バランスの調整は行わず、過剰に増幅されがちな声の音量を平準化することで、会話全体の代表性を回復しようとする設計思想を持つ。
【弱い紐帯の強さ】
社会学者グラノヴェッターが提示した概念。密な結束の内側にある強い絆よりも、疎な関係にある弱い絆の方が、集団の外から新しい情報を運び込む機能を果たすという知見。フィード設計における橋渡し的な接続の理論的な土台になる。
【コモンズの統治】
経済学者オストロムが論じた、共有資源の管理をめぐる理論。単一の中央集権的な統制にも、単純な市場化にも解消されない、当事者による多層的なルール形成の可能性を示した。可視性という公共的資源の統治を考える際の参照点になる。
【デジタルサービス法(DSA)】
EUが導入した、大規模オンラインプラットフォームに対してシステミックリスクの評価や透明性、研究者アクセスなどを求める規制枠組み。可視性の配分を公共的に統治しようとする、現時点での具体的な制度的試みの一つ。