錨のある推論と錨のない合意――集合知が真理につながらないとき

Seo Seungchul
1 日前
読了時間: 13分

シリーズ: 論文渉猟

◆今回の論文：Tadahiro Taniguchi et al., "Collective predictive coding as model of science: formalizing scientific activities towards generative science" （Royal Society Open Science, 2025年6月4日）

概要：科学という共同作業を、部分的な観測しか持たない多数の科学者が、論文執筆と査読という通信を通じて、共有された科学知識を分散的にベイズ推論していく過程として定式化する枠組み（集合的予測符号化＝collective predictive coding）を提案した論文。社会的客観性、科学的進歩、パラダイム転換、そしてAIの参入までを、一つの確率的な生成モデルの上で論じている。

一人の科学者が見ている世界は、全体のごく一部にすぎない。手元のデータは偏り、解釈には癖がある。にもかかわらず、論文を書き、互いに査読し合うという地味なやりとりの積み重ねが、誰の頭の中にもない知識を、社会の側に溜めていく。

この奇妙にも思えるプロセスを、一つの数理として描き出した論文がある。科学を、部分的な観測しか持たない多数の科学者が、通信を通じて共有知識を分散的に推論していく過程として定式化する試みだ。鮮やかな枠組みだと思う。だが本稿が向かいたいのは、その鮮やかさを称えることではない。この枠組みを社会の意思決定へ持ち出そうとした瞬間に、どこで構造が壊れるか。壊れ方を正確に見ること。そこにこそ、この論文の思いがけない使い道がある。

集合的推論としての科学

科学は、「天才が一人で真理を掘り当てる物語」ではない。一人の科学者の観測は、はじめから部分的で、偏っている。誰も世界の全部を見ていない。

この前提の上に、論文は三つの層を置く。手元の観測データ。各人の頭の中にある仮説や見立て、すなわち内部表現。そして論文や理論として外に出され、共有される外部表現。論文を書くとは、頭の中の内部表現を、共有可能な形へ取り出すことにほかならない。査読とは、受け取った側が自分の内部表現に照らして、それを受け入れるか突き返すかを判定することにほかならない。

ここで論文は、一つの構造的な等価性を主張する。この外部化と判定の往復は、子どもたちのあいだで言葉が立ち上がっていく過程と、形として同じだというのだ。誰も正解の辞書を持たないまま、指さし、呼び、通じたり通じなかったりするうちに、共有された記号体系が群れの側に生まれる。論文の枠組みは、もともと記号創発、つまり言語が社会の中で立ち上がる現象を説明するために作られた数理を、科学の説明へと転用したものである。中央に審判はいない。それぞれが手元の根拠で受容と棄却を繰り返すうちに、共同体全体の知識が、世界をよりよく言い当てる方向へと収束していく。指揮者のいないオーケストラが、なぜか合奏を成立させてしまう。論文が描くのは、そういう光景だ。

客観性は個人に宿らない

ここから、居心地の悪い結論が一つ出てくる。論文ははっきりと書いている。共同体全体が正しい答えへ近づいていく極限においてさえ、個々の科学者は互いに食い違っていてよいし、各人が間違った確信を抱いていてよい、と。正しさの宿る場所が、個人ではない。知識の持ち主は、共同体の側にある。

これは過激な言い方に見えて、現場の感覚にはむしろ合っている。一本の論文が誤っていても、分野全体としては正しい方へ進む。そうした出来事を、私たちは知っている。

この直観には、長い理論的な裏づけがある。ロンジーノ（Helen Longino）は、科学の客観性を、孤立した個人の頭の中ではなく、批判的な相互作用が制度化された共同体のうちに置いた。個人のバイアスは消えない（消えないまま、査読や追試という相互批判の過程で、互いに削り合われていく）。客観性とは、バイアスの不在ではなく、バイアスを訂正し合う仕組みの存在にほかならない。論文の枠組みは、この古典的な洞察に、分散ベイズ推論という数理的な身体を与えたものと読むことができる。

だが、本稿が論文の中でもっとも鋭いと考えるのは、ここではない。多様性が機能する「条件」を明示した点である。論文はその条件を、確率的なサンプリングがエルゴード的であること、つまり可能性の空間のあらゆる部分が、いつかは必ず探られること、として定式化する。どの科学者からも提案される見込みのない理論があれば、その方向は構造的に探索から漏れ落ちる。議論が同じ場所を回り続ければ、新しい可能性へ抜け出せない。特定の論題や集団が影響力を持ちすぎれば、探索は一部へ偏り、全体の収束は鈍る。

「多様性は善い」という標語は、その手前にある地形の条件を隠してしまう。多様な声が集まること自体ではない。あらゆる声が場に出られる構造があること。客観性を支えているのは、後者の方だ。歪みは、誰かが間違ったことを言うから生じるのではない。正しいかもしれない何かが、一度も言われないまま消えるときに生じる。

飛躍としての進歩

進歩の描き方にも、触れておきたい。論文は、科学がなめらかに前進するとは考えない。ときどき飛ぶ、と考える。

普段は、既存の枠組みの内側で細部を詰めていく。連続的な更新だ。ところがあるとき、枠組みそのものが地続きでない場所へ跳ぶ。論文はこれを、相転移として捉える。水が氷になる、あの不連続な切り替わりである。数理的な裏づけは、渡辺澄夫の特異学習理論に由来する。モデルが特異な構造を持つとき、確信の更新は、ある安定点から別の安定点へ不連続に飛び移りうる。通常科学は連続的な更新、科学革命は相転移。クーン（Thomas Kuhn）の二つの局面が、一つのベイズ最適化の異なるモードとして整理される。

クーンには、古くからの難問があった。パラダイムが異なれば、物の見方の前提そのものが異なるため、新旧を同じ物差しで比較できない。比較できないなら、どちらが進歩かも言えないはずだ。通約不可能性という難問である。この枠組みは、それを別の階層で解く。内側の見方は、確かに比較できない。だが、世界をどれだけうまく予測できるか、という外側の尺度で見れば、転換の前後は比較できる。新しいパラダイムの方が予測をよく当てるなら、それは前進だと言ってよい。物差しの階を分けたのだ。

そしてこの「予測能力で測る」という発想は、論文のもう一つの主張へとつながる。確証から生成へ、という科学観の転換だ。科学の目的は、真か偽かを判定して正しい命題を積み上げることだ、という伝統的な像に対し、論文は別の像を置く。科学知識の第一の働きは、次の探索を生み出すことにある。ある理論は、正しいから価値があるのではなく、次に何を疑い、何を試すべきかを促すから価値がある。確証する科学から、問いを生成する科学へ。

論文が抱える二つの力

数式の話を、言葉で一つだけ。論文がモデルを駆動させるとき、全体を動かす力は二種類ある。一つは、各人の予測がどれだけ当たっているか、を測る力だ。観測した世界と、自分の見立てが、どれだけ合っているか。この力は、外の世界に錨を下ろしている。観測は外から与えられ、勝手には動かせないからだ。

もう一つは、みんなの見立てをできるだけ揃えよう、とする力である。共有された表現に向かって、各人を引き寄せる。論文はこの力について、見過ごしてはならない注記を置いている。揃える対象となる共有表現は、環境から来るのではなく、人々が作り出すものであり、したがってそこには恣意性がある、と。記号が何を指すかは、社会的な合意が満たされるかぎり、かなりの自由度を持つ。言語学でいう記号の恣意性が、ここに顔を出す。

科学という仕組みは、二つの異質な力を同居させている。世界に錨を下ろした予測誤差の力と、人が作り出す恣意的な合意の力。本稿の見立てでは、ここがこの論文のもっとも誠実な部分だ。全部が世界に決められているわけでも、全部が人の取り決めなわけでもない。両方が、内側にある。

二つの力が両方あると認めることは、片方を抜いたら何が起きるか、という問いを自然に呼ぶ。錨の方を、外したら。

錨を外した共同体

社会の「みんなで決める」には、その錨があるか。

資源をどう配分するか。何を正義とするか。こうした決定は、世界の構造を当てにいっているのではない。予算の配り方に、答え合わせをしてくれる事後分布は存在しない。予測誤差を測れる外部世界が、そこにはない。

だとすれば、二つの力のうち、錨の方が消える。残るのは、みんなで揃えようとする力だけだ。そして揃える力だけが残ったとき、分散的なベイズ推論は、分散的な合意形成へと縮退する。合意は、何にでも収束できるようになる。共有されてしまえば、間違った結論にすら、なめらかに収束する。揃っていることと、正しいことが、切り離せなくなる。科学では味方だった「揃える力」が、錨を失った途端に、暴走する余地を持つ。

だからこそ、集合知が真理を生む、という議論には慎重でありたい。多様な人が集まれば賢い結論が出る、という構想が、もっとも弱くなる関節が、ちょうどここにある。

集合知をめぐる議論が社会的決定へ横滑りするとき、決定的な区別が一つ潰れる。事実についての信念を持ち寄ることと、選好を持ち寄ることは、構造として別物である。前者には、世界という外部審判が控えている。多様な観測の集約が、真の姿への接近になりうるのは、この審判ゆえだ。ところが「何を選ぶべきか」を持ち寄る場面には、この外部審判がいない。そして選好の集約には、アロー（Kenneth Arrow）の不可能性定理以来の困難が住み着いている（個々人の合理的な選好順位を、いくつかの最小限の条件を満たしつつ、矛盾なく一つの社会的順位へまとめる一般的な方法は、存在しないのだった）。信念集約の数理を、そのまま選好集約へ持ち込むことはできない。

論文のモデルにおいて、個人のバイアスは、均されるべきノイズとして扱われる。だが政治の場では、権力や利害の非対称性は、均すべきノイズではない。それこそが、決定されている当のものだ。さらにルークス（Steven Lukes）の権力の第三の次元まで降りれば、人々の選好そのものが、権力によってあらかじめ形作られている。集約すべき「素の選好」が、独立には存在しない。何を望むか自体が、すでに誰かに編まれている。

ここで断っておきたい。本稿は、認識論的民主主義、すなわち集合的な熟議が良い判断を生むという構想を、否定したいのではない。そうではなく、この論文が、その構想のもっとも弱い関節を、外側から照らしている、と言いたい。モデルは問いを解かない。問いを鋭くする。社会的な合意に欠けている項を、名指しできる形にする。それが、この論文の思いがけない使い道だ。

包摂と凝集、真理を当てにしない橋

ここまで来ると、この論文は社会の話には使えない、という結論になりそうだ。だが、そうではない。錨を当てにする橋は、確かに崩れた。だが、錨を当てにしない橋が、一本だけ残る。

論文の後半に、AIが科学者として共同体へ加わったらどうなるか、という議論がある。人間とは異なる見方をする存在が入れば、探索される視点の幅は広がる。多様性が客観性を高めるという、前半の論点の延長だ。違う目を入れれば、死角は減る。

ところが同時に、別のことが起きる。違いが大きすぎると、論文を提出しても受け取ってもらえなくなる。互いの見立てがかけ離れていれば、査読の受容率は下がり、共同体としての収束は困難になる。共有の土台が、痩せていく。

注目すべきは、この緊張が真理追跡を前提としない点である。包摂と凝集のトレードオフは、誰が正しいかではなく、通じ合えるか、受け取り合えるか、という通信の問題だ。だからこそ、外部の錨を失った社会的決定の場へも、この構図はそのまま移せる。異質な者を取り込むほど視野は豊かになり、取り込むほど共通の地面は狭くなる。多文化的な共同体の統治。国境を越えたガバナンス。価値の体系を異にする者どうしの合意形成。いずれも、この同じ二律背反の上に立っている。科学社会学者ジャザノフ（Sheila Jasanoff）が市民認識論と呼んだもの、すなわち社会ごとに異なる「何を正しい知識と認めるか」の作法を思い起こせば、共通の地面とは、放っておいて在るものではなく、作り続けなければ痩せていくものだとわかる。

そして、この緊張には、世界が答え合わせをしてくれない。どこまで包摂すべきかの正解は、外から降ってこない。だから、決めるしかない。錨のないまま、それでも線を引くしかない。

似ていないことを見るという収穫

この論文から得たのは、答えではなかった。むしろ収穫は、科学と社会の似ているところよりも、似ていないところの方にあった。

科学に似ているから社会も推論だ、ではない。似ていないことを正確に見ると、私たちの「みんなで決める」が、どこで足場を失うのかが見えてくる。錨のある推論と、錨のない合意。同じ仕組みに見えて、片方には世界の答え合わせがあり、片方にはない。その差を見ないまま、集合知という一語でくくってしまえば、どこかで足を踏み外す。

だが、踏み外すと知っていても、私たちは錨なしで決め続けねばならない。そこは変わらない。変わらないからこそ、自分たちが何を錨なしでやっているのかを知っていることには、意味があるはずだ。

ポイント整理

正しさの所在が、個人から共同体へ移る
- 共同体全体が正しい方へ近づく極限でも、各人は食い違い、間違っていてよい。知識の持ち主は共同体であって個人ではない。客観性はバイアスの不在ではなく、バイアスを訂正し合う仕組みの存在に宿る。
多様性は、条件付きでしか効かない
- 多様性が客観性を支えるのは、可能性の空間が隅まで探られるとき（エルゴード的であるとき）に限られる。死角の理論、堂々巡り、有力集団への偏りは、いずれも探索を歪める。「多様性は善い」の標語が隠すのは、この地形の条件である。
科学には、性質の異なる二つの力が同居している
- 観測＝世界に錨を下ろした予測誤差の力と、人が作り出す恣意的な合意（集合正則化）の力。論文はこの二つを分けて書いた。この分離が、枠組みを社会へ持ち出すときの蝶番になる。
錨を外すと、推論は合意へ縮退する
- 社会的決定には予測誤差を測る外部世界がない。錨が消えると、揃える力だけが残り、合意は誤りにすら収束しうる。信念の集約（世界が審判する）と選好の集約（誰も審判しない）は別物であり、後者にはアローの不可能性が住む。
真理を前提しない橋＝包摂と凝集のトレードオフ
- 異質性を取り込むほど視野は広がり、取り込むほど共通の基盤は痩せる。この緊張は通信の問題であり、収束先が真理かどうかと独立に成り立つ。ゆえに錨のない社会的決定の場にも、そのまま移せる。

キーワード解説

【集合的予測符号化（collective predictive coding）】

個人の脳内で起きる予測符号化（予測誤差を減らす方向に認知が働くという考え方）を、社会という集団のレベルへ拡張した枠組み。共有された記号体系（言語や科学知識）が、多数の行為者の相互作用を通じて分散的に立ち上がる過程を記述する。本論文は、これを科学活動のモデルへ転用した。

【ベイズ推論】

新しい情報が得られるたびに、ある事柄についての確信の度合いを更新していく推論の方法。本論文では、各科学者が手元の根拠で受容と棄却を繰り返す過程が、中央に審判を置かない「分散的な」ベイズ推論に当たるとされる。

【社会的客観性】

科学の客観性を、個人の正しさではなく、共同体における相互批判の仕組みに帰す立場。ロンジーノらの科学哲学に系譜を持つ。個人のバイアスは消えないまま、査読や追試を通じて削り合われる。

【特異学習理論・相転移】

渡辺澄夫が確立した、特異な構造を持つ統計モデルの学習を解析する理論。確信の分布が、ある安定点から別の安定点へ不連続に飛び移る現象（相転移）を扱う。本論文はこれを、パラダイム転換の数理的な記述に用いた。

【エルゴード性】

ここでは、確率的なサンプリングが可能性の空間のあらゆる部分をいつかは必ず訪れる、という性質を指す。これが満たされないと、探索に構造的な死角が生まれ、共同体の推論が真の姿へ収束しなくなる。

【アローの不可能性定理】

個々人の合理的な選好順位を、いくつかの最小限の妥当な条件を保ったまま、矛盾なく一つの社会的順位へ統合する一般的な方法は存在しない、という社会的選択理論の結果。信念の集約と選好の集約が構造的に異なることを示す要となる。

【権力の第三の次元（ルークス）】

スティーヴン・ルークスによる権力分析の一層。表立った対立や争点設定の操作にとどまらず、人々が何を望むか、何を当然と見なすかという選好そのものを形作る作用を指す。集約すべき「素の選好」が独立には存在しないことを示唆する。