top of page
検索

AIの答えが賢くなるほど、組織は問いを失っていく――争点を立てる力の所在


シリーズ: 論文渉猟


◆今回の論文：Md Rabius Sunny, "Invisible Groupthink: AI Homogenization, Epistemic Diversity, and Organizational Decision Resilience" (SSRN Working Paper, 2026年5月18日）

  • 概要：組織内で同質的なAIツールが広く使われることで、個人の作業効率は上がる一方、組織全体の意思決定は同じ誤りの構造を共有しやすくなり、かえって脆くなるという逆説を理論的に整理した論文。著者はこの現象を Invisible Groupthink と呼び、その発生機序を IQHE(Informational Quiet Homogenization Effect)として四段階に分解している。



AIのリスクは、たいてい誤情報か、雇用か、著作権の話として語られる。どれも重要な話だ。だが、もっと見えにくいところに、別の種類のリスクが潜んでいるのではないか。


間違うから危ないのではない。むしろ、正確で、整っていて、もっともらしいからこそ危ういのだとしたら。



会議室のなかで起きていること


企業がAIを導入する。個人の作業は速くなる。資料はきれいに整う。それなのに、組織全体としての意思決定の質は、必ずしも上がらない。それどころか、下がる場合すらある。


マッキンゼーの二〇二五年の調査が引かれている。八十八パーセントの組織が、少なくとも一つの業務でAIを使っている。だが収益への効果を報告できたのは三十九パーセントにとどまり、真の意味でAI活用に成功していると言えるのは六パーセントほどだという。

なぜか。


論文はこのギャップの一因を、組織内の認識的多様性の劣化に求める。個人が賢くなっても、組織が賢くなるとは限らない。この現象を、著者は Invisible Groupthink、日本語に訳すなら見えない集団浅慮と名づけた。


ここで一段、話は深くなる。古典的なグループシンク概念(Janis, 1972)が問題にしてきたのは、強いリーダーシップ、集団の凝集性、異論を封じる同調圧力といった、社会的な力学であった。異論を言えば集団から浮く。だから黙る。そうした構造である。


しかし Invisible Groupthink の主要な機制は、社会的なものではなく情報的なものだと論文は言う。誰も命令していない。誰も異論を封じていない。各人はむしろ、独立して調べ、考え、判断したという実感を持っている。それにもかかわらず、同じAIモデル、同じ訓練分布、同じ回答様式を経由することで、判断の誤差そのものが相関してしまう。


この発生過程を、論文は IQHE として四段階に分解する。第一に、AIに聞く前からすでに前提が似ている段階(組織文化や業界常識、共有されたKPIが、問いの立て方そのものを揃えてしまう)。第二に、同質的なAIが似た出力を返す段階。第三に、AIの迎合性が加わり、ユーザーがすでに持っていた仮説を補強していく段階。そして第四に、会議の場でそれぞれの分析が持ち寄られ、「独立した検討の一致」として誤認される段階である。


危ういのは、この第四段階にほかならない。当事者の体感としては、これは同調ではなく合意として現れる。別々に調べたのに同じ結論に達したのだから、むしろ確信は強化される。だが実際には、それは共通の情報源を経由した相関出力かもしれない。独立性の錯覚が、検証の代替物として機能してしまうのである。


論文はさらに、Amplification Paradox という逆説を提示する。AI導入を強く推し進め、全社的に統一された利用を広げる組織ほど、個人の作業効率は上がる一方で、組織全体の意思決定レジリエンスは下がりうる、という逆説である。集合知は多様な視点と、相関していない誤りに依存する。ところが全員が同じAIを使えば、誤りの構造そのものが似てくる。個人指標は改善する。だが未知のリスクを発見する力、少数派のシグナルを拾う力は、静かに損なわれていく。



会議室の外へ


はたして、この構造は組織という閉じた空間の中にとどまるのだろうか。


問いはここで、組織の次元から公共圏の次元へと移行する。組織であれば、複数のメンバーが同じ会議室に集まり、似た分析を持ち寄る瞬間がある。社会では、この持ち寄りの場がもっと分散している。新聞記事、政策資料、大学のレポート、企業の提言、SNSの投稿、審議会の資料。市民、記者、官僚、研究者、企業人、それぞれが別々の場所で、しかし同じ少数のAIインフラを介して、論点を整理している。


本稿の見立てでは、ここで均質化されるのは結論そのものではない。より正確に言えば、均質化されるのは論点空間である。何を問題と見なすか。どの選択肢を現実的と見なすか。どの違和感を、まだ言葉にならない周辺的なものとして処理するか。この、争点が立ち上がる手前の段階が、静かに標準化されていく。


ハーバーマスが公共圏の理念として描いたのは、単に情報が流通する場ではなく、社会が自らの問題を発見し、名づけ、争点化し、修正していく場であった(『公共性の構造転換』)。この理念にとって決定的なのは、賛否を集計する以前の段階、すなわち何を争点として立てるかという段階である。ここが標準化されてしまえば、賛否がどれほど活発であっても、争点そのものの幅は狭いままにとどまる。


見落としてはならないのは、これが検閲ではないという点だ。誰かが特定の論点を意図的に抑圧しているわけではない。整理されているから信頼する、便利だから使う、分かりやすいから採用する。そうしたごく自然な選択の積み重ねが、まだ言語化されていない現場の違和感、少数派の経験、身体的な実践知を、後景へと押しやっていく。ここに、この現象の見えにくさの理由がある。



揃うことと分かれることが同時に起こる


もっとも、この議論には反論の余地がある。AIには迎合性があるのだから、むしろ社会全体としては多様性が保たれるのではないか、という反論である。


官僚に聞けば行政合理性に沿った答えが返る。企業人に聞けば効率性や投資対効果に寄った答えが返る。活動家に聞けば権利や不平等に寄った答えが返る。ユーザーごとに異なる前提へ合わせて答えるのだから、社会全体としては複数の立場が並立するはずだ、と。


だが、ここで起きているのは全体均質化ではなく、クラスター内均質化である。保守派の内部で、リベラルの内部で、テクノクラートの内部で、それぞれの語彙と論理の型が、AIによって洗練され、硬くなっていく。その結果として立ち現れるのは、単一の合意ではなく、複数の陣営がそれぞれ内部的に硬直化し、互いにますます通約不能になっていく状態である。

意見の対立は、見かけ上むしろ激しくなるかもしれない。だが、それぞれの陣営の内側にある問いの型が固定化しているならば、公共圏の実質的な幅は狭まっている。賑やかであることと、豊かであることは、同じではない。


ここで、政治学者スティーヴン・ルークスの権力論を補助線として置くことができる。ルークスは、命令する力(第一次元)、議題を操作する力(第二次元)に加えて、そもそも何を利益や選択肢として認識できるか、その範囲自体を規定する力(第三次元)が存在すると論じた(『Power: A Radical View』)。命令もない。議題操作もない。それでも、社会が想像しうる選択肢の幅そのものが、便利さの副産物として静かに狭められていく。この構造は、まさに第三次元的な権力のはたらきに近い。


そしてこれは、誤情報の問題とは性質が異なる。誤情報は、内容が間違っていることが問題になる。ここで論じているのは、内容が正確で、整理されていて、中立に見えるからこそ、論点空間が縮減していくという、もう一段深い問題である。



AI以前の均質化との違い


もっとも、社会の問いの立て方を標準化してきたのは、AIが初めてではない。マスメディア、学校教育、官僚制、専門家共同体、検索エンジン、SNSのアルゴリズムも、それぞれのやり方で公共圏の輪郭を整えてきた。


だから問いはここに行き着く。AIは、これらの装置と何が違うのか。


第一に、回答化である。検索エンジンは複数の情報源への入口を示したが、生成AIはその入口を飛び越えて、統合済みの説明を提示する。どの視点が中心化され、どの視点が削られたのかが、出力の中には現れない。


第二に、個別迎合である。マスメディアの均質化は、比較的単一の方向へ働く。AIの迎合性は逆に、陣営ごとに異なる方向へ、それぞれもっともらしい世界像を洗練させていく。


第三に、高速な再生産と再帰的循環である。AIが作った論点整理が公共空間に流れ込み、それを別の人間や別のAIが読み、要約し、再構成する。論点地図は自己を参照しながら増殖していく。


第四に、権威の所在の不透明さである。人間の専門家であれば、その経歴や立場をある程度問うことができる。AIの回答は、誰の視点が混ざっているのかを明示しないまま、無人格な整理として立ち現れる。


これらの特異性を踏まえるなら、Invisible Groupthink は既存のメディア効果論の焼き直しではない。むしろ、既存の均質化装置が持っていた特徴のいくつかを増幅し、新しい特徴(個別迎合、再帰的循環)を付け加えたものと見るべきだろう。



均質化そのものは、悪くない


ここで急いで留保しておきたい。均質化そのものを、一律に悪と見なすべきではない。

災害時の避難情報、医療の基本手順、会計基準、航空安全、法令遵守。これらの領域では、一定の標準化がむしろ有益にはたらく。誰もが同じ手順を踏めることには、明確な価値がある。


問題が生じるのは、不確実性が高く、価値の対立があり、まだ言語化されていない弱いシグナルを拾う必要がある領域で、AIによる均質化が、独立した判断や熟議の代替物として扱われてしまうときだ。AI規制、教育改革、少子化、移民、気候政策、安全保障、パンデミック対応。過去のデータの平均的な整理だけでは足りない領域において、この危険は特に大きくなる。



何が語られなくなったかを問う


では、どうすればよいのか。


答えは、AIを公共圏から締め出すことではない。それは現実的でもないし、望ましくもない。必要なのは、AIを使いながら認識の多様性を保存する、具体的な設計である。論文は組織向けに、これを Diversity-Preserving AI Governance(DPAG)として提案している。この発想を、より具体的な形で公共圏に移すなら、次のようになるだろう。


  • AI使用前の初期判断を残す仕組み

    政策審議でも、報道でも、教育でも、AIによって整えられた後の意見だけを記録してはならない。整った文章になる前の粗い違和感、迷い、引っかかりを、意識的に保存する必要がある。重要な問いは、しばしば整理される前の形で最初に姿を現すからだ。


  • AIなしの異論提出者

    重要な審議会や編集会議において、少なくとも一人がAI支援資料の前提そのものを疑う役割を担う。ここで見落とされがちなのは、発言の順序である。異論を最初に出せば、後続の議論に吸収されて摩耗する。最後に発言させることで初めて、すでに形成されつつある合意そのものを検査する機能を持ちうる。これは単なる悪魔の代弁者とは異なる。悪魔の代弁者が会議の中で異を唱える役回りだとすれば、ここで必要とされているのは、AIが作った論点地図そのものの外側に立つ視点である。


  • AIが拾いやすい論点と拾いにくい論点を、意識的に区別する

    報道であれば、AI由来の定番論点と、独自取材によって浮かび上がった非定番論点を分けて示す。政策資料であれば、複数のAI間で一致した論点と、AIが提示しなかったが当事者証言や現場知から出てきた論点を、別の欄として明示する。


そして最後に、合意そのものではなく、消えた論点を監査するという発想である。AI時代の公共圏において問うべきなのは、何に合意したかだけではない。どの違和感が整理の過程で消えたのか。どの価値フレームが「非現実的」として外されたのか。どの当事者の経験が「例外」として処理されたのか。ここを見なければ、公共圏が静かに痩せていく過程そのものを、見過ごすことになる。


こうした仕組みを、すべての場面に一律に課す必要はない。標準化が有益な定型業務では、簡易な確認で足りる。だが、憲法、人権、安全保障、教育、移民、AI規制のように、公共的な影響が大きく、不確実性と価値対立の高い領域では、認識多様性を保存する手続きを、制度として組み込む価値がある。



 

ポイント整理


  • Invisible Groupthink とは何か

    • 同質的なAIシステムをメンバーが独立に利用することで、組織や社会の認識が劣った方向へ収束していく現象

    • 古典的グループシンクとの違いは、社会的圧力ではなく情報的な収束が主因である点にある

    • 各主体は独立して判断したという実感を持つが、認識の供給源が同じであるために誤りの構造が相関する

  • IQHEの四段階

    • 前提収束(AIに聞く前から問いが似ている)、同質的出力、迎合的補強、偽の検証という順で進行する

    • 最も危険なのは第四段階であり、相関した出力を独立した合意として誤認する点にある

  • 均質化されるのは結論ではなく論点空間である

    • 社会レベルでは、結論の一致よりも、何を争点として認識できるかという範囲そのものが標準化される

    • ハーバーマスの公共圏理念に照らせば、これは民主主義の前段階を損なう問題である

  • 均質化と分極化は同時に進行しうる

    • AIの迎合性は、社会全体の均質化ではなく、陣営内部の均質化と陣営間の分極化を同時に生む

    • ルークスの権力論(第三次元的権力)は、命令や議題操作なしに選択肢の幅が狭められる構造を捉えるうえで有効な補助線になる

  • AIの特異性は既存のメディア効果の焼き直しではない

    • 回答化、個別迎合、高速な再帰的循環、無人格な権威性という点で、AIは既存の均質化装置と異なる性質を持つ

  • 均質化そのものは常に悪ではない

    • 標準化が有益な定型領域と、不確実性・価値対立が高く多様性が必要な領域を区別する必要がある

  • 対策は消えた論点の監査に集約される

    • AI使用前の初期判断の保存、AIなしの異論提出者(発言順は最後)、AIが拾いやすい論点と拾いにくい論点の区別、消えた論点の監査という具体策が有効である



キーワード解説


【Invisible Groupthink】

同質的なAIツールを複数の主体が独立に利用することで、各主体が独立に判断しているという実感を保ったまま、集団や社会全体の認識が劣った方向へ収束していく現象。論文の中心概念。


【IQHE(Informational Quiet Homogenization Effect)】

Invisible Groupthink が生じる過程を、前提収束・同質的出力・迎合的補強・偽の検証という四段階に分解した説明枠組み。

【Amplification Paradox】 AI導入を強く推し進める組織ほど、個人の作業効率は上がる一方で、組織全体の意思決定レジリエンスが下がりうるという逆説。


【第三次元的権力(ルークス)】

命令する力、議題を操作する力に加えて、そもそも何を利益や選択肢として認識できるか、その範囲自体を規定する力があるとする権力概念。政治学者スティーヴン・ルークスが提示した。


【DPAG(Diversity-Preserving AI Governance)】

AI利用そのものを制限するのではなく、AIを使いながら集合知に必要な認識多様性を維持するための設計・運用上の枠組み。



本稿を素材として対話形式で再構成した記事も、近日中にnoteに掲載予定です。
ご関心を持っていただけましたら、note上でご感想などお聞かせいただけると幸いです。
bottom of page