理解できないシステムの手綱を握る──AIの統治可能性という物差し

Seo Seungchul
2 日前
読了時間: 9分

シリーズ: 論文渉猟

◆今回のレポート：Jennifer Waller Martin et al., "Power, Capital and Governance: Leadership in a Fragmented World" (Cambridge Judge Business School, 2026年7月15日）

概要：金融機関のCEOや経営幹部、研究者による討議をまとめたホワイトペーパー。Power／Capital／Governanceという三つの問いから、AI、地政学、情報環境の変化が企業統治に与える影響を論じ、経営者への三つの行動原則を提示している。

見えないシステムを、それでも統治しなければならない。

ケンブリッジ大学Judge Business SchoolとBain & Companyが2026年に公表した報告書『Power, Capital and Governance: Leadership in a Fragmented World』は、この一文に今後十年の企業経営を要約している。

金融機関のCEOと経営幹部、研究者が二日間かけて議論した内容をまとめたこの報告書は、権力、資本、統治という三つの問いから、AIと地政学と情報環境の変化を捉え直す。診断は的確だ。だが処方箋には、見過ごせない飛躍がある。この報告書自身の言葉を丁寧に辿るところから、その飛躍のありかを見ていきたい。

世界は分断されているのではなく、接続されたまま争われている

報告書の基本認識は、明快である。世界の金融システムは単純に分断されているのではなく、インフラの面ではいっそう接続されながら、政治、規制、価値観の面ではいっそう対立している。国境を越える資金移動、決済、データ、AI、プラットフォームへの依存は深まる一方、各国は通貨、制裁、関税、技術規制を戦略的に利用し始めている。世界は一体化から分裂へ直線的に移るのではなく、接続されたまま争われるシステムへ移行している、と報告書は述べる。

この認識から、報告書は五つの構造変化を導く。世界秩序が西側中心の単極から多極へ移る。資本市場が効率性からレジリエンスへ評価軸を変える。AIが個別業務のツールから、金融システム全体を調整するオーケストレーション層へ変わる。情報環境が、事実そのものを汚染する認知戦の場になる。そして信頼が、企業理念ではなく日々の運用によって形成される経営資産になる。

三つの問いと三つの原則

これら五つの変化は、最終的に三つの問いへ集約される。権力はどこへ移っているのか。資本は何を評価するようになるのか。そして経営者は、完全には見通せないシステムを統治できるのか。

報告書はこの三つの問いに対し、次の原則で応じる。見えないものを統治すること。多極化した世界に自社を配置すること。そして人間の判断力を増幅すること。取締役会の技術リテラシーを高め、AIとデータの利用を監査可能にする。一つの通貨圏や規制モデルに依存せず、地域ごとの人材とパートナーシップに早期投資する。そして文脈を読む力、確率的思考、異文化理解、不確実な状況で決断する勇気といった、AIには模倣できない人間の資質を育てる。

報告書の結論を一言でまとめるなら、次の十年の競争優位は情報ではなく判断の質にある、ということになる。情報が希少だった時代には、早く手に入れることが優位だった。情報が過剰になった今、重要なのは、弱いシグナルを見抜き、不確実性を確率的に捉え、十分な材料がなくても決断する能力だという。

ここまでが、報告書が自ら述べていることである。AIの不透明性を単なる技術リスクではなく企業統治の問題として扱っている点、効率性だけでなくレジリエンスや信頼を資本価値の源泉に位置づけている点は、いずれも重要な指摘だ。だが、診断から処方への移行には、見過ごせない飛躍が二つある。

「判断力を増幅する」は、本当に処方箋になっているか

判断力は、組織の中に固定的に保存された資産ではない。問題を自分で定義し、情報の欠落に気づき、複数の選択肢を比較し、反対意見を検討し、不確実性を引き受けて決定し、その結果から学ぶ。判断力は、この一連の実践を通じて形成され、維持される。

AIがこの過程を代替し、人間には出力の確認だけが残るようになれば、判断力はむしろ低下しうる。AIが問題設定や分析を代替する。人間が独自に判断する機会が減る。現場の経験と暗黙知が失われる。AI出力の妥当性を検証できる人材が減る。その結果、組織はさらにAIへの依存を深める。この循環は、単なるスキル不足ではない。組織が、自らの判断能力を継続的に再生産できなくなるという問題である。

もっとも、AIが必然的に判断力を損なうわけではない。人間が先に独自の見解を形成し、AIの提案と比較する。AIに反対仮説を生成させる。過去の判断と結果のずれを分析させる。このような設計であれば、AIは判断を代替するのではなく、外化し検証する道具になりうる。問うべきは、AIを使うか否かではなく、AIが判断過程を代替するように設計されているか、それとも判断過程を外化し検証するように設計されているか、という一点である。

したがって「人間の判断力を増幅する」という表現は不正確だ。増幅という言葉には、判断力がすでに十分に存在し、AIと組み合わせれば強化できるという前提がある。本稿の見立てでは、実際に必要なのは、判断能力が失われないこと、判断の機会が残されること、組織知が継承されることである。増幅ではなく、保存と再生産。この言い換えのほうが、報告書自身の診断とよほど整合する。

「見えないものを統治せよ」という命令形の空虚さ

報告書のもう一つの原則である「見えないものを統治する」にも、同じ構造の弱さがある。「見えないシステムを統治できるか」という問いに対して、「見えないものを統治せよ」と答えることは、問題を命令形に変換したにすぎない。複雑性に適応せよ、信頼を構築せよ、といった一般的な経営提言と変わらず、方向は示すが、成立する条件までは説明していない。

とはいえ、完全に理解できない対象は統治できない、と単純化するのも正確ではない。航空機、医薬品、原子力発電所、国際的なサプライチェーンは、単独の責任者がすべてを理解していなくても、専門分業、技術標準、認証、監査、保険、事故報告によって間接的に統治されてきた。統治に完全な透明性は必要ない。

必要なのは、統治可能性という物差しである。重要な入力、出力、依存関係を認識できること。権限を持つ主体が動作へ介入できること。異常時にシステムを停止できること。誤った決定を撤回し修正できる可逆性。行為、利益、義務、損害の関係を追跡できる帰責可能性。そして事故から制度を改善できる学習可能性。これらの条件が満たされている限り、対象を完全に理解できなくても統治は成立する。逆に、これらがことごとく欠けているならば、そのシステムは性能がどれほど高くとも、統治不能に近づいていく。

問われるべきは、「見えるかどうか」ではなく「統治可能かどうか」である。この置き換えによって初めて、「見えないものを統治する」という精神論は、具体的な設計問題に変わる。

Human-in-the-loopは、責任を移すための装置になりうる

報告書はAIガバナンスの要として、人間をループの中に残すことを重視する。しかし、人間が承認画面の前に座っていることと、人間が実質的な判断主体であることは、同じではない。

AIが大量の案件について推奨を出し、担当者が短時間で承認ボタンを押す。AIに反対すれば追加の説明や上位者の承認が求められる。組織ではAIに従うことが安全な行動とされ、拒否することが例外になる。この状況で、担当者はもはや判断者ではなく、AIの出力を組織の決定へ変換する署名者にすぎない。事故が起きれば、最終的には人間が承認したと説明できる。導入企業は利益を得るが、現場担当者や取締役は形式的責任を負い、損失は顧客や社会へ波及する。

人間の関与が実質的であるためには、担当者が判断に必要な情報を持ち、AIとは異なる選択肢を検討でき、出力を拒否でき、拒否によって不利益を受けず、必要に応じてシステムを停止できなければならない。問うべきは、人間がいるかどうかではなく、その人間に認識能力、拒否権、介入権、停止権が実質的に保障されているかどうかである。

権力、知識、利益、責任を、どう配分しなおすか

Human-in-the-loopをめぐる問題は、より広い構造の一断面にすぎない。現代のAIシステムでは、モデルを設計する主体、データを提供する主体、業務へ導入する主体、現場で利用する主体、利益を得る主体、法的責任を負う主体が、それぞれ異なる。この分業自体は、現代経済が専門分化を前提としている以上不可避であり、それ自体を問題視するのは的外れだろう。

問題は分離そのものではなく、その非対称性にある。大きな影響力を持つ主体が責任を負わない。利益を得る主体が損失を負担しない。責任を負う主体には情報も介入権もない。最も弱い現場担当者や、システムの影響を受けた顧客に、損失が集中する。

したがって必要なのは、権力、知識、利益、責任をすべて一つの主体へ戻すことではない。影響力、情報、介入権、利益に比例して、義務と損失負担を配分しなおすことである。誰がシステムの条件を設定できるのか。誰が何を知ることができるのか。誰が出力を拒否し、システムを止められるのか。誰が利益を得て、誰が損失を負うのか。報告書が掲げたパワー、キャピタル、ガバナンスという三つの問いを、もう一段具体的にするならば、最終的にこの一連の問いへ行き着く。

ポイント整理

判断力は増幅する対象ではなく、保存し再生産する対象である
- AIが判断過程を代替すると、人間が判断を鍛える機会そのものが失われる
- 人間が先に判断し、AIと比較し検証する設計であれば、判断力は損なわれない
「見えないものを統治する」は精神論であり、統治可能性という条件に置き換える必要がある
- 認識、介入、停止、可逆性、帰責、学習という条件が揃えば、完全に理解できない対象も統治できる
- これらが欠けているシステムは、性能が高くても統治不能に近づく
Human-in-the-loopは、実質的な介入権がなければ責任転嫁の装置になる
- 承認画面に人間がいることと、人間が判断していることは別である
- 拒否権、不利益なき拒否、停止権が伴って初めて、人間の関与は実質化する
権力、知識、利益、責任の分離は問題ではなく、その非対称性が問題である
- 影響力を持つ者が責任を負わず、責任を負う者に情報や介入権がない状態を是正する
- 目指すべきは一元化ではなく、影響力に比例した義務と損失負担の再配分である

キーワード解説

【オーケストレーション層】

AIが個別業務を効率化する単なるツールではなく、顧客対応から与信、リスク管理、トレーディングまでを横断的に調整する基盤そのものになっていく状態を指す。報告書はAIをこの意味での調整層として位置づけている。

【統治可能性】

対象を完全に理解しているかどうかではなく、認識、介入、停止、可逆性、帰責、学習という条件がどれだけ満たされているかによって、統治が成立しているかを測る考え方。

【Human-in-the-loop】

AIの判断過程に人間を関与させ、最終的な承認や拒否を人間に委ねる設計思想。ただし人間の関与が実質的かどうかは、拒否権や情報、不利益の有無によって決まる。