文脈の権威化──AIと組織の制度的分業をめぐって
- Seo Seungchul
- 6月8日
- 読了時間: 10分
シリーズ: 行雲流水
判断の来歴が、組織のどこにも残っていない。
これは、企業にAIエージェントを導入する際に最初に直面する問題だ。ルールは文書化されている。前例らしきものも、どこかのフォルダに眠っている。しかし「なぜ、あの時、あの例外が認められたのか」という問いに答えられる記録は、多くの場合、特定のSlackチャンネルと退職した担当者の記憶の中にしかない。
この問題を「AIの知能が足りない」と解釈するのは誤りだ。構造化されていない文脈は、どれほど高性能なモデルを使っても読めない。問題の所在は、推論器の性能ではなく、推論の前提条件が機械可読な形で保持されていないことにある。
「Context Graph」という概念が、この問題への応答として登場した。しかしこの概念は、AIの推論を賢くするための新しいモデルとして読み込まれてしまうことが多い。本稿は、その混同を解きほぐすことから始め、その先にある問い——文脈を「正しい」と決めるのは誰か——に向かって議論を組み立てる。
基盤と推論器は別物——「substrate」の意味
Context Graphを理解する第一歩は、それが推論器ではなく、推論器の前提条件を支える基盤層（substrate）であることを明確にすることだ。
推論器は判断を行う。基盤層は、推論器が参照すべき条件を保持する。この区別は自明に見えるが、実務上は頻繁に混濁する。「Context Graphを導入すればAIが賢くなる」という言い方は技術的に不正確で、「AIが参照すべき条件を整える」というのが正しい説明だ。
Context GraphとKnowledge Graphの関係も、対立ではなく継承と拡張として理解する方が正確だ。Knowledge Graphがentityと関係を安定的に記述する静的な層であるのに対し、Context Graphはその上に以下の五つの軸を重ねた動的な層である。time（いつの判断か、どのバージョンのルールが有効だったか）、provenance（判断理由と情報の出所・誰が入力し誰が承認したか）、decision trace（判断に至るプロセス・検討された選択肢・適用された例外）、policy（本来のルールと例外ルールとその優先順位）、permissions（誰が何にアクセスしてよいか・誰が何を変更してよいか）——この五軸がなければ、AIは文脈を参照しているように見えても、失効した判断理由や無権限の情報を混ぜる危険を孕む。
「地と図」の比喩を使えば、構造が直感的につかめる。知覚心理学が示した通り、「図」（前景の対象）は「地」（背景）なしには成立しない。実務上の判断も同様だ。目の前の案件（図）に対して、過去の類似ケース、有効なルールのバージョン、承認権限の所在、未解決の先行問題（地）が引き出せなければ、判断は成立しない。Context Graphの役割は、この地を機械的に選別して引き出せるようにすることだ。
ただし比喩の射程には注意が必要だ。地は無限にあり得る。どの地が今回の判断に関与するかを自動的に決める仕組みは、比喩だけでは提供されない。そこで五軸が、比喩から実装への橋渡しを担う。Forresterが整理した通り、entityの記述がなければ判断履歴は宙に浮き、判断履歴がなければentityの記述は不完全になる——このことは、Knowledge GraphとContext Graphが補完関係にあることを端的に示している。
推論器の再定義——真因発見の野心を畳む
基盤が整ったとして、その上で何が可能になり、何は依然として不可能なのか。この問いへの答えが、推論器の設計を規定する。
現場の期待は往々にして「真因発見」だ。なぜこの案件は遅延したか、なぜその顧客は解約したか——AIが高精度でその答えを出してほしい、という期待。しかし、この期待は二重の意味で危うい。
第一に、情報はそもそも不完全だ。判断の来歴を丁寧に保存しても、全ての行動の動機が記録されているわけではない。第二に、そして決定的な問題として、人間の自己申告は後付け合理化を免れない。Daniel Wegnerが「意識的意志の錯覚」として論じた通り、人間は行動に対する説明を事後に構成する。退職理由として「キャリアを見直したくて」と述べた説明が、行動を規定した実際のプロセスと一致しているとは限らない。上司との関係、給与水準、偶発的な出来事、観測不能な感情——これらが複雑に絡み合った結果が、事後に単一の物語として語られる。
したがって、推論器に期待すべき機能は「真因の確定」ではなく、次の三つになる。
アナロジーによる構造参照——表層の語彙の類似ではなく、ボトルネック、ブリッジ、単一点障害といった構造的特徴の類似を見つける。組織の情報が詰まっている場所と、物流のネック、ネットワークの単一点障害は、内容は異なっても構造として似ている可能性がある。Context Graphやグラフ表現は、この構造類似を記述するのに向いている。ただし、どの差異を無視してよいか・どの差異が致命的かの判断は自明でなく、「AIが人間を超えて高精度なアナロジーを確実に行える」とは現段階では言い過ぎだ。より穏当な主張は、構造表現を持つことで、通常の意味ベクトルの類似より遠距離の参照がしやすくなる可能性がある、というものだ。
アブダクションによる仮説生成——観測された結果から、それを最もよく説明する複数の仮説を逆向きに生成する。障害原因の候補出し、解約要因の仮説整理、審査差戻しの理由候補——仮説空間がある程度閉じた業務領域では、この機能が実用的な力を持つ。開いた領域（人間の深層動機、組織の本音）への適用には慎重であるべきだ。
事後評価の支援——成功した判断を振り返り、どの行動が予想外の正の連鎖を生んだかを整理する。これは予言ではなく事後の意味付けであり、振り返りの質を高める機能として位置づける。
評価軸も変わる。「どれだけ正確に真因を当てたか」というaccuracy一本の評価から、「仮説の妥当性」「介入候補としての有用性」「振り返りを助けるか」という三軸の評価へ。野心を縮小することが、皮肉にも推論器を実際に使えるものにする——これがここでの核心的な主張だ。
文脈の権威化——誰が境界を設定するのか
ここで話は、技術から制度へと移行する。
Context Graphを維持するとは何か。データを入力すれば終わりではない。時間が経てば情報は古くなり、かつての承認経路は有効でなくなり、ルールのバージョンが変わる。権限管理が形骸化すれば、誰も管理していない情報が「正しい文脈」として参照され続ける。AIがリンク候補を出し、人間がcurated sensemaking layerを維持する運用が外れると、この構想はすぐ壊れる——この点はForresterが繰り返し指摘している通りだ。
ここで問うべきは「誰が文脈を権威化するのか」だ。
Sheila Jasanoffが科学技術ガバナンスの文脈で提示した「共同生産（co-production）」の概念は、この問いに鋭く接続する。彼女が示したのは、科学的知識の権威性は技術的な正確さだけで生まれるのではなく、社会的・制度的なプロセスを経て生産されるという点だ。何が「信頼できる情報」として流通するかは、誰がそれを認証し、どの機関がそれを承認し、どの手続きがそれを支えているかに依存する。Context Graphも、この原理から自由ではない。技術的に正確なデータが蓄積されても、その権威化のプロセスが制度化されなければ、「書き込みログ」に堕ちるだけだ。
Elinor Ostromが共有資源管理の研究で明らかにしたのは、境界の設定（誰が管理の対象者であり、そうでないか）、監視（誰がルール遵守を確認するか）、ルール変更の手続きの三つが、どんな共有の仕組みも持続させるための条件だということだ。Context Graphのガバナンスも、同型の問いを持つ。何を権威ある情報源とみなすか、どの記録が失効したかを誰が判断し、その判断をどう記録するか——これは技術仕様ではなく、組織設計の問いだ。
この問題設定そのものは、企業ソフトウェアの最前線にすでに存在している。PalantirのOntologyは、組織のデータセット・仮想テーブル・モデルの上に載るoperational layerであり、現実世界のplant、equipment、products、orders、transactionsといった対象に接続される。さらにactions、functions、dynamic securityを備え、組織のdigital twinとして意思決定を支えるよう設計されている。Forresterが指摘する通り、このOntology layerはアーキテクチャ的にはgeneral-purpose context graphと見なし得る。
ただしPalantirの強みは、創発的な推論そのものよりも、統合・権限管理・運用・監査にある。substrateの構築においては強力な先行例だが、その上に載る推論器をどう設計するかは、別の問いとして残る。次の競争領域はそこにある。
分業の設計——「境界設定」という最後の仕事
AIは候補を広げる。人間は境界を引く。
この分業の図式は単純に見えるが、「境界を引く」とは何をすることかを精確に理解しなければ、図式は絵空事になる。それは単に「AIの提案を承認する」ことではない。何を権威ある情報源とみなすかを決めること、どの記録が失効したかを判断すること、どの仮説が組織的に採用可能かを見極めること——これらは、価値判断と制度的知識を要する仕事だ。
AIが出した候補が多ければ多いほど、この境界設定の仕事は重くなる。候補を増やすことで、境界設定の負荷は人間側に移行する。したがって、AIとの分業設計とは、「AIに何を任せるか」だけでなく「人間の何を守るか」を設計することでもある。
横展開の論理も、ここから導かれる。ある組織で蓄積された判断来歴のデータそのものは、別の組織に移植できない。しかし、どの構造的特徴を読むか——ボトルネックの場所、例外承認の集中、承認経路の断絶——という「構造抽出の型」は抽象化できる。A社の値引き承認フローとB社の障害エスカレーションは、内容こそ違っても、承認ボトルネックや例外ルーティングの構造として似ることがある。移植すべきは答えではなく、読むべき形だ。
Context Graphという構想が問いかけているのは、究極的にはこうだ——AIの賢さは、AIが判断の前提条件にアクセスできるかどうかで規定され、その前提条件の権威化は、組織の制度的プロセスで規定される。技術が問いかけているのは新しい問いではなく、「組織はどのように知を管理するか」という問いを、新しい形で問い直したものだ。
ポイント整理
基盤と推論器の区別
Context Graphは推論器ではなく、推論の前提条件を保持する基盤（substrate）
entity・time・provenance・decision trace・policy・permissionsの5軸で構成される
Knowledge Graphとは対立せず、その上に判断の来歴の層を重ねる継承関係にある
推論器の再定義——野心の縮小が有用性を生む
真因発見の期待は二重に危うい——情報の不完全性と、人間の後付け合理化
期待する機能はアナロジー（構造参照）・アブダクション（仮説生成）・事後評価支援の三つ
評価軸はaccuracy一本から、仮説の妥当性・介入可能性・振り返りの質の三軸へ
文脈の権威化は制度設計の問題
データの蓄積だけでは不十分——誰が権威ある情報源を決めるかが問われる
Jasanoff的な共同生産の視点：知識の権威性は技術的正確さでなく制度的プロセスで生まれる
Ostrom的な共有資源管理の視点：境界設定・監視・更新の手続きを設計しなければ基盤は形骸化する
分業の本質は「境界設定」にある
AIは候補を広げ、人間は境界を引く——この分業の「境界設定」こそが設計の核心
候補が増えるほど、境界設定の負荷は人間に集まる。これを意識的に設計する必要がある
価値判断と制度的知識を要する仕事は、人間が担う
移植できるのは構造の読み方
判断来歴のデータそのものは組織をまたいで移植できない
ボトルネック・例外承認の集中・承認経路の断絶という構造抽出の型は抽象化できる
横展開の対象は答えではなく、読むべき形である
キーワード解説
【Context Graph】
AIが判断に必要な文脈を参照するための基盤層。entityと関係を記述するKnowledge Graphの上に、time・provenance・decision trace・policy・permissionsを重ねた構造。推論器（reasoning model）ではなく、推論の前提条件を支える基盤（substrate）として位置づけられる。Foundation Capitalが「decision tracesを主体と時間をまたいで接続した検索可能な記録」として定義した概念と近接する。
【decision trace】
判断に至るプロセスの記録。最終決定だけでなく、検討された選択肢、却下された案、適用された例外、承認した人物を含む。「なぜその判断になったか」を事後に辿れるようにするための情報で、Context Graphの中核的な構成要素。
【provenance】
情報や判断理由の出所・由来。誰が、いつ、どのように入力・承認したかという来歴情報。provenanceが欠落すると、古い情報や無権限の情報がContext Graphに混入しても検知が困難になる。
【アブダクション（abductive reasoning）】
観測された結果をもっともらしく説明する仮説を逆向きに生成する推論方式。演繹（ルールから結論を導く）でも帰納（事例からルールを見出す）でもなく、結果から「最も妥当な原因仮説の集合」を生成する。仮説空間がある程度閉じた業務領域（障害原因分析、解約要因候補出し等）で実用的な力を持つ。
【共同生産（co-production）】
Sheila Jasanoffが提示した科学技術ガバナンスの概念。科学的知識の権威性は技術的正確さだけで生まれるのではなく、社会的・制度的プロセスを通じて生産される、という命題。何が「信頼できる情報」として流通するかは、誰が認証し、どの機関が承認するかに依存する。Context Graphの権威化プロセスを考えるうえで参照軸となる。