知識の圧縮に抗うインフラ設計とは――知識のダークマターと認識論的民主主義

Seo Seungchul
6月13日
読了時間: 14分

シリーズ: 論文渉猟

◆今回の論文：Yu Li et al., "Inverse Knowledge Search over Verifiable Reasoning: Synthesizing a Scientific Encyclopedia from a Long Chains-of-Thought Knowledge Base" （arXiv, 2025年10月30日）

概要：科学知識の「推論経路」が圧縮・消去されてきたことを問題視し、LLMを用いてLong Chain-of-Thought（LCoT）形式の推論過程を大量生成・検証し、逆引き検索エンジンを通じてSciencePediaという科学百科事典を構築するフレームワークを提案した研究。

私たちの知識システムには、一つの根本的な選択が埋め込まれている。結論を残し、経路を捨てる、という選択だ。

教科書はニュートンの運動方程式を示す。しかし、なぜその式が成り立つのかの推論の連鎖は、ほとんどの場合省略される。Wikipediaはある概念の定義を述べる。しかし、その概念がどの問いから生まれ、どの実験の失敗を経て、どの論争の蓄積の上に立っているかは見えない。人間の時間と紙幅という経済的制約のもとで、知識の流通は「結論を残して経路を省く」方向に最適化されてきた。

この論文が「知識のダークマター」と呼ぶのは、そうして省かれた推論経路だ。宇宙物理学においてダークマターが見えない質量として宇宙の構造を支えているように、この見えない推論の連鎖が、私たちが「知識」として受け取る結論を支えている、と論文は言う。その比喩は適切だ。見えないものの方が、見えるものより多い、という感覚を直截に伝えている。

問題は、この圧縮がAIの登場によってさらに加速しているという現状だ。LLMは圧縮された知識の海を泳いで成長した。だから、そのまま記事を書かせれば、同じく圧縮された知識を再生産する。さらに、私たちがLLMを「答えを返す機械」として日々使うほど、結論の消費者としての習慣が深まっていく。

知識システムの根本的な圧縮

私たちの知識システムには、一つの根本的な選択が埋め込まれている。結論を残し、経路を捨てる、という選択だ。

推論経路の可視化という賭け

この論文が提案するフレームワークは、圧縮された流れに対して、逆向きの賭けを試みるものだ。

Socrates（ソクラテス）エージェントと名付けられた仕組みは、科学カリキュラムの約200のコースと各コースの約200トピックから出発し、各トピックについて約100のプロンプトを生成する。約300万の問いだ。それぞれの問いに対し、複数の独立したLLMが長い推論連鎖（LCoT: Long Chain-of-Thought）を生成する。そして、複数モデルの答えが一致するもの——すなわち、検証可能な終点を持つ推論経路——だけが倉庫に残る。

この倉庫を使う検索エンジン、Brainstorm Search Engineの仕組みは「逆引き検索（inverse knowledge search）」と呼ばれる。通常の検索は「概念の定義」を返す。逆引き検索は、「ある概念が登場する推論経路の全体」を返す。「インスタントン」を検索すれば、量子トンネルから始まる経路、QCDの真空構造を辿る経路、4次元多様体への応用を見せる経路が並ぶ。検索が「答えを引き出す行為」から「来歴と接続を発見する行為」へ変わる、という構想だ。

百科事典記事を書くPlato（プラトン）エージェントは、この検索結果を素材に記事を合成する。「知っていることを自由に書け」ではなく、「ここにある検証済みの推論経路を繋いで語れ」という命令のもとで動く。論文が示す評価では、Platoの記事は同じプロンプトで作られたベースラインのLLM記事と比べ、知識点密度が高く、事実誤りが約半分だという。LLMの役割が「創作」から「叙述」へ変わることで、幻覚（hallucination）のリスクが構造的に下がる——これがこのフレームワークの核心的な主張だ。

STEMの領域において、この設計は強力だ。数学・物理・化学は、「答えが収束する問題」が豊富に存在するからだ。

ダークマターの外縁

しかし、論文が定義する「知識のダークマター」は、ダークマターの全体ではない。

論文のダークマターは derivational chains——結論に至る論理の連鎖——に限定される。この限定は、設計思想である verifiable endpoint（検証可能な終点）から必然的に導かれる。最終答えが機械的に確認できる問題を優先し、複数モデルの答えが一致するものを残す。その設計は、「答えが収束する」領域でしか機能しない。

人間の知には、この枠外に置かれるダークマターが少なくない。

Polanyi（マイケル・ポランニー）が tacit knowledge（暗黙知）と呼んだものがある。職人の手の感覚、臨床医の診断的直観、研究者の「これはおかしい」という勘。知っていることの方が言えることより常に多い——この命題は、「命題として言語化できる知識」の外側に、確かな知の領域があることを指す。

棄却された仮説の履歴がある。「こっちは試したけどうまくいかなかった」という記録は、「正しい答えに至る経路」の倉庫からは構造的に排除される。しかし、次に何かを考えるとき、選ばれなかった道の地図は重要な情報を持っている。

問いの来歴がある。なぜこの問いを問うことになったか——この文脈は、社会科学・人文科学においては知識の一部だ。論文自身も「scientific history」「human-centric information」が弱いと認めている。しかし、「なぜ民主主義という概念が生まれたか」「なぜ労働価値説が問題になったか」という来歴を抜きにして、その概念は理解できない。

そして、論争そのものがある。「答えが一致しないこと」が本質的な領域では、複数モデルの一致だけを残す仕組みは、知の核心を構造的に削ぎ落としてしまう。歴史学における解釈の多様性、政治哲学における価値の対立——これらは「解決すべきノイズ」ではなく、「知識の豊かさそのもの」だ。

さらに一点見落とせない逆説がある。可視化は同時に、可視化できないものへの注目を奪う。STEMの推論経路が大規模かつ精緻に可視化されるほど、「推論経路として表現できない知」の存在が前景に来なくなる可能性がある。ダークマターの一部を照らすことで、残りのダークマターがより深い闇に沈む——という構造的な圧力を、この設計は孕んでいる。

検証可能性の限界と設計原理の組み替え

ここから、論文の枠組みを社会科学・人文科学に拡張するという思考実験が立ち上がる。これは単なる「他分野への応用」ではない。この設計思想が、知のどの領域にどこまで通用するかを見極めるテストだ。

結論から言えば、字義通りの適用は不可能だ。論文の三本柱——reductionist strategy（到達点から逆に導出する設計）、verifiable endpoint（機械的に検証できる終点）、Cross-Model Validation（複数モデルの答えの一致による検証）——のすべてが、人文社会科学では機能しない。「機能しない」は技術的困難というより、知のあり方として整合しないことを意味する。解釈の多元性こそが人文社会の知のあり方であり、「答えが一致するもの」を残す仕組みは、その核心を構造的に削ぎ落とす。

だから、人文社会への応用は設計原理の組み替えを必要とする。三つの転換を考えてみたい。

第一の転換は、検証可能性から追跡可能性（traceability）へ。「この主張は正しいか」を問うのではなく、「この主張はどこからどう辿ってきたか、どんな前提の上に立っているか」を保持する。この転換は、人文社会科学が伝統的に脚注・引用・学説史という形で実践してきたことのAIスケールでの再設計に近い。Habermas（ユルゲン・ハーバーマス）が討議倫理において「自由で平等な参加者による合意の手続き的正当性」を問うたとき、その核心にあったのも、主張の来歴と応答可能性という論点だった。

第二の転換は、収束から発散の構造化へ。Cross-Model Validation の代わりに、複数モデルの差異を地図にする仕組みが要る。一つの概念に対する読解がどう分岐しているかを、等しく有効でありうる経路として並列に保持する。

第三の転換は、固定カリキュラムから reflexive curriculum へ。論文のSocratesエージェントは「与えられたカリキュラムを忠実に展開する」設計だ。しかし人文社会では、何をカリキュラムに含めるか自体が常に問い直される。フェミニズム、ポストコロニアル批判、先住民の知——これらはいずれも「既存のカリキュラム」に対する根本的な問い直しだった。エンドポイントを揺らがせる仕組みを、設計の内部に組み込む必要がある。

Jasanoff（シーラ・ジャサノフ）が civic epistemology（市民的認識論）と呼んだように、何を信頼できる知識と見なすかは、社会的・政治的な契約に依存する。AI時代の知識インフラがこの契約をどう設計するかは、認識論的民主主義の制度設計の問いに他ならない。

論証可能性という防波堤

しかし、この三つの転換だけでは足りない。

発散を保持する設計は、放っておけば二つの劣化形態に落ちる。ひとつは「すべての意見は等しい」というポストモダン的相対主義の悪い形への転落——陰謀論やデマも「並列の経路」として等置される。もうひとつは注目経済への飲み込まれ方——「拡散する意見」が「議論」を上書きし、プラットフォーム経済の論理が知のあり方を歪める。

論文のSTEM枠組みでは、検証可能性がこの二つに対する防波堤を兼ねていた。検証可能なものしか入らないから、自動的にデマも注目経済も弾かれる。検証可能性を捨てるなら、代わりの防波堤を意識的に設計しなければならない。

ここで「論証可能性（arguability）」という原理が浮上する。検証可能性が「唯一の正しい答えへの収束」を要求するのに対し、論証可能性は異なる要求を課す——「主張が経路を持ち、その経路が他の主張・反論に対して応答可能であること」だ。

この原理を設計に組み込むと何が起きるか。経路を持たない断定はネットワーク上に居場所を持てない。前提を隠した主張は追跡不能として周縁化される。「結論ありきで証拠が後付けされる経路」は、経路を辿ったときに構造的な破綻が露呈する。意見の多元性は保持されるが、「無責任な相対主義」は構造的に排除される。これは、Habermasが個人の道徳的負荷として要求したことを、設計レイヤーで実装しようとする試みに近い。

しかし論証可能性は、「金の論理」への対抗に十分ではない。これは認識論の問題ではなく、運営と経済モデルとガバナンスの問題だからだ。誰が何をどう可視化するかの権力構造を透明にすること。プラットフォーム企業のビジネスロジックから独立した経済モデルを持つこと。参加者によるルール設計の仕組みを持つこと。Ostrom（エリノア・オストロム）がコモンズの持続可能な管理に必要な設計原理として析出した知見——境界の明確化、参加者による規則設計、段階的サンクション、紛争解決機構——は、知識インフラの設計にも構造的に適用できる論点を含む。

技術の役割と設計の責任

ここまで来てようやく、AIとブロックチェーンそれぞれの固有の強みが、どこに効くかが見えてくる。

AIが進展を開けるのは、論証可能性を扱う技術としての側面だ。多元的な論証経路の生成と構造化、論争の地図化、論証可能性の判定支援、既存カリキュラムの盲点指摘——これらは人間がスケールできない作業であり、AIによる質的飛躍が見込める。論文のLCoT発想を、「検証可能性」ではなく「論証可能性」を中核に翻訳して応用する場面だ。

ブロックチェーンがユニークな強みを発揮するのは、議論の基盤としての公的記録と、運営の自律性の側面だ。論証経路の不可逆な記録、プラットフォーム経済からの構造的独立、資金フロー・貢献・議決の透明化、検閲耐性——これらは他の技術では代替が利かない。両者を組み合わせると、たとえばこういう設計が見えてくる。誰の主張も論証経路を添えてオンチェーンに記録される。AIがその経路の論証可能性を評価し、評価そのものも記録される。何をカリキュラムに含めるかはDAOが分散的に決定し、AIが既存カリキュラムの盲点を指摘する。

しかし技術ユートピアに振れてはならない。ブロックチェーンも万能ではない。何をオンチェーンに載せるかの決定自体が権力構造を再生産しうる。トークン経済はDeFiの末路が示すように、容易に投機・搾取の構造に転落する。改ざん耐性は誤りや時代遅れの主張を永遠に残す副作用を持つ。DAOは投票権力の集中（クジラ問題）に脆弱だ。

AIも同様だ。論証可能性の判定をAIに委ねれば、AIの判断基準そのものが新しい権威になる。何を「論証可能」とみなすかの線引きが、開発者のバイアスを再生産する。

技術が運命を決めるのではなく、設計が運命を決める——この言明は楽観への警告であると同時に、設計への責任の要求でもある。

認識論的民主主義のインフラとして

論文が提起した問いは、AI時代の知識インフラをどう設計するかという問いだった。その問いは、人文社会への拡張を試みるとき、認識論的民主主義の制度設計という問いと重なりはじめる。

検証可能性に代わる論証可能性。収束に代わる発散の構造化。固定カリキュラムに代わるreflexive curriculum。論証可能性という防波堤。プラットフォーム経済から独立した運営。AIとブロックチェーンを組み合わせた設計の可能性と限界——これらを整合的に組み合わせたとき、その先にあるのは、「何が知識として流通するかを誰も一方的に決められない」インフラの構想だ。

しかし同時に、その構想は次の問いを引き連れてくる。「誰が設計するか」「誰が設計の正当性を担保するか」「その担保の仕組み自体を誰が設計するか」——問いは螺旋状に続く。

その螺旋が無駄かといえば、そうではない。一段深く巡るたびに、問いはより具体的な設計の論点に接近する。知識のダークマターをめぐる問いは、技術論ではなく、「知識の正当性とはどこから生まれるか」という認識論の核心に向けて、私たちを招いている。

ポイント整理

知識の圧縮という問題の所在
- 現代の知識システムは結論を残し経路を省く方向に最適化されてきた。LLMはその圧縮を学習し再生産するため、AIを「答えを返す機械」として使い続けるほど圧縮は加速する
LCoTフレームワークの核心
- 推論経路そのものを検証可能な形で大量生成し、「概念に至る経路の全体を逆引き検索できる」仕組みを作ることで、知識の検索を「答えを引き出す行為」から「来歴と接続を発見する行為」へ転換しようとする設計
ダークマターの射程の限界
- 論文のダークマター定義は「検証可能な推論経路」に限定される。暗黙知・失敗の履歴・問いの来歴・論争の構造は枠外に置かれ、可視化が広がるほどこれらの不在が見えにくくなる逆説的圧力がある
人文社会への応用に必要な三つの転換
- 検証可能性→追跡可能性：来歴と前提の開示を保持する
- 収束→発散の構造化：複数の読解経路を並列に保持する
- 固定カリキュラム→reflexive curriculum：カリキュラム自体を問い続ける仕組みを組み込む
論証可能性と運営設計の必要性
- 発散を保持する設計は「便所の落書き」（無責任な相対主義）と「金の論理」（注目経済・プラットフォーム経済）という二つの劣化形態に落ちやすい。論証可能性という防波堤（経路を持つ主張だけが居場所を持てる規範）と、Ostrom的なコモンズ設計（参加者による規則設計・透明な運営）の組み合わせが要る
AIとブロックチェーンの組み合わせの可能性と限界
- AIは論証経路の生成・構造化・判定に強みを持ち、ブロックチェーンは公的記録の不可逆性・運営の自律性・透明化に強みを持つ。しかし両者とも設計次第で新しい権威・新しい金の論理を生む器になる。技術が運命を決めるのではなく、設計が運命を決める

キーワード解説

【Long Chain-of-Thought（LCoT）】

LLMが生成する長い段階的推論の連鎖。単なる答えではなく、そこに至る推論過程全体を指す。RLVR（検証可能な報酬による強化学習）によってLLMが獲得した能力で、通常の人間が書いたテキストにはほとんど現れない「新しい統計分布」として論文は位置づける。

【verifiable endpoint（検証可能な終点）】

推論の連鎖が到達する、機械的に確認可能な答え。数値計算、記号式、コード実行結果、多肢選択など。論文のフレームワークはこれを持つ問題を優先する設計であり、この選択がSTEMでの強みと人文社会への拡張困難の両方を生み出す。

【inverse knowledge search（逆引き検索）】

「概念の定義」を返す従来の検索ではなく、「その概念を経由する推論経路の全体」を返す検索パラダイム。概念の来歴・前提・他分野との接続を発見する行為として位置づけられる。

【暗黙知（tacit knowledge）】

ポランニーが提唱した概念。言語化・命題化できないが熟練者が確かに持っている知。「知っていることの方が言えることより常に多い」という形で示される。論文のフレームワークが構造的に捉えきれない知の領域を代表する概念の一つ。

【論証可能性（arguability）】

本稿で提案する設計原理。主張が経路を持ち、その経路が他の主張・反論に対して応答可能であること。検証可能性の代替として、発散を保持しながら無責任な相対主義を排除する防波堤として機能しうる。

【civic epistemology（市民的認識論）】

Jasanoffが提唱した概念。何を信頼できる知識と見なすかの基準は、社会的・政治的な契約によって決まるという視点。AI時代の知識インフラ設計を「技術問題」ではなく「認識論的民主主義の制度設計」として捉える際の基盤となる概念。

【reflexive curriculum（自己言及的なカリキュラム）】

本稿で提案する設計原理。何をカリキュラムに含めるかが固定されず、カリキュラム自体が常に問い直される仕組みを組み込んだ設計。フェミニズムやポストコロニアル批判が示したように、人文社会では「誰が知識のエンドポイントを決めるか」そのものが知識の生産に組み込まれている。