探索は枠の中を回り、発見は枠を書き換える──AI科学者論の制度設計と、その応用可能性
シリーズ: 論文渉猟
◆今回の論文：Fiona Y. Wang et al., "Self-Revising Discovery Systems for Science: A Categorical Framework for Agentic Artificial Intelligence" (arXiv, 2026年5月31日）
概要：AIによる科学的発見を、答えの生成ではなく表現レジームの更新として定義し直し、カテゴリ理論を用いて監査可能な形式を与える枠組みを提案。タンパク質力学と繊維ネットワーク力学の二つの事例で実装。
AIは科学的発見をしたのか？
この問いに答えようとすると、まず「発見」という言葉の意味が揺れる。新しい分子を設計した、新しい材料候補を見つけた、新しい仮説を生成した。これらは発見だろうか。それとも、既存の探索空間の中で、まだ試されていなかった組み合わせを見つけただけだろうか。
MITのFiona Y. WangとMarkus J. Buehlerが2026年5月に発表したプレプリントは、この問いに構造的な回答を与えようとしている。
「発見」を定義し直す
この論文の中心的な主張は、科学的発見を「答えの新しさ」で測るのではなく、「表現レジームの更新」として測るべきだ、というものにある。表現レジームとは、何を成果物として認めるか、どの操作を許すか、どの検証基準を使うか、どの説明文法を採用するか、をまとめた枠組みのことだ。
筆者らは三つの段階を厳密に分ける。検索（retrieval）は、既に存在する成果物を取り出す操作である。探索（search）は、既存の型、操作、評価基準の内部で新しい組み合わせや経路を見つける操作である。発見（discovery）は、それらの型、操作、評価基準自体が更新される事態である。
この区別が重要なのは、現在のAI科学者をめぐる議論の多くが、探索と発見を混同しているからだ。AIが大量の候補を生成し、そのうちの一つが有望であったとしても、それが既存の探索空間の中で可能な組み合わせの一つにすぎないなら、searchであってdiscoveryではない。discoveryと呼べるのは、旧い枠組みでは扱えない証拠や反例が現れ、新しい型、新しい操作、新しい検証器、新しい説明文法の導入が必要になった場合だけである。
カテゴリ理論はこの区別を形式化する道具として使われている。ある時点のAIの科学的状態は、成果物の型と操作の体系（スキーマ圏）の上に載ったコプレシーフ（copresheaf）として表される。旧いレジームから新しいレジームへの移行において、旧い成果物は左Kan拡張によって新しいスキーマに移送される。移送だけでは説明できない残余がdiscovery residualとなる。つまり発見の中身は、旧い枠組みから新しい枠組みへの移送では埋まらない空白として、構造的に定義される。
天才ではなく制度
この論文の「自己修正するAI科学者」を、一人の天才的AIとして読んではならない。形式上は一つのdiscovery systemとして扱われるが、その内部には複数の要素が作動している。
第一のケーススタディであるBuilder/Breakerでは、名前の通り二つの役割が制度化されている。Breakerは現在のモデルの弱点を露呈させるタンパク質を選び、Builderはそれに応じて記号的なモデルの修正案を提案する。候補は、蓄積された同じ証拠に対して旧モデルと新モデルを再フィットしたうえで、MDL（記述長の最小化）を改善した場合にのみ受理される。発見は、Builderが勝つことでもBreakerが勝つことでもなく、反例を処理できるように表現レジームが更新されることとして生じる。
第二のケーススタディであるCategoryScienceClawはさらに分散的である。型付きのスキル、不変の成果物、開かれたニーズ、ワークフローの変異、圧力スコアリング、公開討議、投票、コメント、評判、モデレーションが一つのdiscovery graphの中で作動する。
したがって正確には、会計単位としては一つのシステム、作動単位としては複数主体の競合・協調系である。仮説同士、モデル同士、説明レジーム同士は競合する。一方で、成果物台帳、検証器、来歴管理、公開討議層は協調的に機能する。
棄却にも来歴がある
この論文で最も実務的に重要なのは、科学AIの来歴管理に関する設計思想だろう。
通常のAIワークフローでは、最終出力だけが残る。途中で試行錯誤した仮説、棄却したモデル、使わなかった検証器の選択は、多くの場合消える。この論文の枠組みでは、それらすべてが型付きの成果物として保存される。CategoryScienceClawの繊維ネットワーク力学の事例では、異方性モデル（orientation-tensor anisotropic stiffness surrogate）が等方性モデル（isotropic fiber-count descriptor）より優れていると受理される一方で、棄却された等方性モデル、AIC gate、摂動テスト、レジーム移行の記録、最終レポートまですべてが来歴として残る。
この設計が重要なのは、AIの科学的出力をブラックボックスにしないためである。最終答えだけが残る状態では、なぜその答えに至ったかを第三者が事後的に検証できない。来歴が残っていれば、なぜその仮説が採択されたのか、どの代替案が棄却されたのか、どの検証基準が使われたのか、後からどの判断が再検討されるべきかを追跡できる。
筆者らはこの構造をcategorical knowledge-computation graphと呼んでいる。従来のナレッジグラフが固定されたオントロジーの上でエンティティと関係を記録するのに対し、この枠組みでは知識、計算、検証、棄却、公開討議、そしてスキーマ更新が一つの科学的状態として表現される。オントロジーの中身を足すのではなく、オントロジーそのものの更新を記録する。これが従来のワークフロー来歴管理との最大の差分である。
検証器の外側
この論文の科学AIの設計論は、より広い応用可能性を持っているかもしれない。
表現レジームの更新、来歴管理、検証器の明示、棄却の記録、残余の検出。これらの発想は、科学以外の領域にもかなり接続しうる。とりわけ、世論の表象や政治ナラティブの問題に対して、この枠組みは独自の切り口を与える。
ただし、接続にあたっては重大な非対称性を最初に押さえなければならない。科学では、少なくとも理念として、観測、実験、再現性、予測性能、説明力という検証の軸がある。政治にはそれがない。政治において問われるのは真偽だけではなく、誰の経験が表象されているか、誰の声がこぼれているか、どの不満が正当な異議であり、どの不満が事実誤認や差別感情に基づくものか、である。これらは単一の検証器では判定できない。
したがって、科学における「旧い理論では説明できない証拠が新しい理論レジームを要求する」という構造を、政治に読み替えるなら、こうなる。旧来の政治語彙では表象できない経験、不満、価値対立、条件付き支持が蓄積したとき、新しい争点レジームが要求される。
表象されない意味の残余
世論調査は、あらかじめ用意された選択肢の中で人々の意見を測る。賛成か反対か、右か左か、政府支持か不支持か。しかし現実の世論は、その選択肢に収まらないことが少なくない。
AI規制には賛成だが、国家による過剰な統制には反対。移民排斥には反対だが、地域インフラへの負荷を無視する議論にも不信がある。脱炭素は必要だが、地域雇用やエネルギー安全保障を軽視する政策には反対。能力主義には一定の合理性を認めるが、親の資産、地域差、外見、運、人的ネットワークの影響を見過ごすことには違和感がある。
これらは中間意見ではない。既存の政治語彙や世論調査の選択肢では表象しきれない意味の残余である。この論文の枠組みを借りて、それをpublic opinion residualと呼んでみることができる。
このresidualは少なくとも五つの層に分けて扱うべきである。まず、選択肢residualがある。既存の選択肢に収まらない意見のことだ。賛成だが条件付き、反対だが一部支持、政策目的には賛成だが手段には反対。次に、語彙residualがある。AIを「活用か規制か」だけで語ると、人間の判断能力への依存、制度的自律性の保全、労働者の交渉力低下といった論点がこぼれ落ちる。既存の語彙では問題を表現しきれないとき、語彙そのものの更新が必要になる。さらに、経験residualがある。政策や制度の議論に十分反映されていない生活経験のことだ。地方交通の不便、介護負担、教育格差、行政手続きの煩雑さなど、抽象的な政策カテゴリーの背後に隠れてしまう経験がこれにあたる。加えて、信頼residualがある。政策内容への賛否ではなく、実施主体への信頼や不信として現れるものだ。「政策自体には理解できるが、この主体には任せたくない」という反応は、政策論だけでは扱えない。そして、正当性residualがある。単純な多数決では処理してはならない少数派の権利、尊厳、安全に関わる問題である。
こうして分類すると、世論の複雑さを単なるノイズとして処理せずに済む。ただし、ここで決定的に重要なのは、記録することと承認することを区別することである。表象されていない不満が常に正しいわけではない。差別感情、陰謀論、事実誤認、加害的な被害者意識も、未表象の残余として出てくる可能性がある。成果物として記録することと、正当な政治要求として採択することは別でなければならない。意味を拾うことは、承認することではない。
動員力と表象力は違う
政治ナラティブもまた、この論文のレンズを通して見ると、表現レジームの一種として理解できる。ナラティブは、社会の出来事、不満、敵、原因、希望、解決策を整理する枠組みである。
問題は、政治ナラティブの多くが動員力で評価されていることにある。選挙で勝てるか、支持者を増やせるか、SNSで拡散されるか。これらは政治的には重要だが、それだけでは、そのナラティブが社会の複雑な経験を正確に表象しているかは分からない。
本稿の見立てでは、政治ナラティブは少なくとも二つの軸で評価されるべきである。動員力と、表象力だ。動員力は、人々を集め、行動に結びつける力。表象力は、社会の経験、対立、反例、少数派の懸念、条件付き支持をどれだけ正確に扱えるかの力である。
この区別が重要なのは、選挙で勝てるナラティブが社会をよく表象しているとは限らないからだ。逆に、まだ多数派を取れないナラティブが、未表象の社会的経験を先に捉えていることがある。さらに、表面的には新しい言葉を使っていても、実際には既存の権力関係や旧い対立軸を別名で再包装しているだけのナラティブもある。この論文のdiscovery residualの考え方を借りれば、そのナラティブが本当に新しい争点を開いているのか、それとも旧い対立を別の言葉で動員しているだけなのかを、構造的に問うことができる。
器を更新する民主主義、ただし条件付きで
科学におけるこの論文の貢献は、AIが発見したかどうかを、気分や印象ではなく、表現レジームの更新として監査可能な形で判定する枠組みを与えたことにある。
この発想を政治に応用するなら、目指すべきは「AIが正しい民意を発見する」ことではない。そもそもそのような構図は危険である。未表象の不満を検出する能力は、民主主義の改善にも使えるが、政治マーケティングや世論操作にも使える。AIが「あなたが本当に不満に思っているのはこれです」と解釈権を握る構図は、表象ではなく成形になる。
政治における自己修正型のシステムは、したがって、単一のAIではなく複数主体の制度として設計されなければならない。市民、専門家、当事者、反対派、行政、メディア、裁判所、監査機関がそれぞれ異なる役割を持つ。AIの役割は、来歴の保存、論点の翻訳、残余の検出、対立構造の可視化、検証過程の支援にとどまるべきである。民意の最終解釈者ではなく、補助層として。
そのために必要なのは複数の独立したgateである。事実確認のgate、当事者による表象妥当性のgate、反対派によるsteelmanチェックのgate、少数派保護のgate、制度的・財政的な実現可能性のgate、権力監査のgate、そして後から修正や分岐が可能なフォーク可能性のgate。
科学では、旧い理論で説明できない証拠が新しい理論レジームを要求する。政治では、旧来の政治語彙では表象できない経験が新しい争点レジームを要求する。この対応を真剣に受け止めるなら、民主主義の課題は「民意をより正確に集計すること」に尽きるのではない。民意を表象する器そのものを、社会の経験に応じて更新可能にしておくこと。そしてその更新の過程を、監査可能にすること。
この論文がAI科学者に対して要求しているのは、答えを出す能力ではなく、自分が何を変えたかを記録し、その記録を他者に開く能力である。同じことが、民主主義にも言えるのではないか。ただし、器の更新権限を誰が持つかという問いを、手放さないという条件付きで。
ポイント整理
retrieval / search / discovery の三段階の区別
AIが新しい候補を出すだけではdiscoveryとは呼べない。既存の型・操作・検証基準の枠内での探索はsearchであり、枠組みそのものが更新される場合にのみdiscoveryと定義される
discovery residual という概念
旧レジームから新レジームへ成果物を移送した際、移送だけでは説明できない残余がdiscovery residualとなる。発見の中身を構造的に定義する道具
「自己修正するAI科学者」は制度である
単一の天才的AIではなく、生成・反例・検証・棄却・再記述のループから発見が生まれる複数主体の競合・協調系
来歴管理の設計思想
採択された仮説だけでなく、棄却された仮説、使われた検証器、反例、レジーム変更時点まで成果物として記録する。事後検証と監査を可能にする
政治版residualの五つの層
選択肢residual（選択肢に収まらない意見）、語彙residual（語彙では表現できない問題意識）、経験residual（政策論に反映されない生活経験）、信頼residual（実施主体への信頼・不信）、正当性residual（多数決では処理してはならない少数派の権利）
動員力と表象力の区別
政治ナラティブは、選挙で勝てるかだけでなく、社会の複雑な経験を正確に扱えるかで評価されるべきである
複数gateの設計条件
政治的自己修正システムには、事実確認、当事者確認、反対派チェック、少数派保護、実装可能性、権力監査、フォーク可能性という複数の独立した検証関門が必要である
キーワード解説
【表現レジーム（representational regime）】
何を成果物として認め、どの操作を許し、どの検証基準を使い、どの説明文法を採用するか、という枠組みの総体。この論文では、科学的発見をレジーム内の探索ではなくレジームの更新として定義する核心概念。
【コプレシーフ（copresheaf）】
カテゴリ理論における数学的構造で、スキーマ圏の各対象（成果物の型）に対して、現時点で存在する具体的な成果物の集合を割り当てるもの。この論文では、ある時点のAIの科学的状態をコプレシーフとして表現する。
【discovery residual】
旧レジームの成果物を新レジームにKan拡張で移送した際、移送だけでは説明できない残余のこと。旧い枠組みから新しい枠組みへの変換では埋まらない空白として、発見の中身を構造的に定義する。
【MDL gate（記述長最小化gate）】
新しいモデルが旧いモデルより記述長（モデルの複雑さと、そのモデルで証拠を符号化するコストの合計）を短くできる場合にのみ採択する検証基準。Builder/Breakerのケーススタディで中心的な役割を果たす。
【categorical knowledge-computation graph】
知識、計算、検証、棄却、公開討議、スキーマ更新を一体的に管理する構造。従来のナレッジグラフが固定されたオントロジー上のグラフ補完であるのに対し、この構造ではオントロジーそのものの更新が記録される。