文明は、何を失っても立て直せるか──AI時代の接続と統治の再構成
シリーズ: 行雲流水
ある仕事をAIへ任せる。その仕事を自力で行う人が減る。それでも、社会の成果は良くなるかもしれない。道具を使ってきた人間にとって、この変化自体は珍しくない。問題は、任せた経路が使えなくなったとき、重要な機能を別の形で続けられるかというところにある。
前の二回では、能力を失うことと、その能力を育て直す場所を失うことを分け、維持する費用と責任を考えた。ここから、もう一段だけ問いを広げたい。能力が残っていても、必要な場所へ集められず、判断を決められず、実行の負担を分けられなければ、社会は動かない。
知識の量、通常時の生産性、つながりの多さだけでは、異常時に立て直せるかは分からない。文明の回復力を考えるには、どの能力を保つかに加えて、誰がその能力を動員し、誰が接続と権限を変えられるかを問う必要がある。
今回は、原論文から発展させた仮説的な考察になる。文明の衰退を一つのモデルで説明するつもりはない。AIという具体的な入口から、効率化、接続、政治の関係をたどる。
効率化の表で、何が仕事として数えられるか
使われない設備、処理の少ない担当、重複した手順は、費用を削減する候補になりやすい。通常時の成果が変わらないなら、削減は成功として記録される。そのとき、異常時に使う経路、若い人を育てる仕事、組織の間に残っていた非公式の連絡まで、成果に寄与しないものへ分類されることがある。
この問題を、無駄を大切にしようという一般論にまとめるのは粗い。使われないものにも不要なものはある。古い手順が新しい方法への切替を妨げる場合もある。限られた資源をすべて保存へ配分すれば、平時の生活も将来の投資も圧迫される。
必要なのは、通常時の成果に表れない機能を具体化することだ。何が止まったとき、何を守るために使うのか。別の手段で同じ機能を維持できるか。使えるまでどれほど時間がかかるか。予備の価値は、その用途と切替の条件によって説明されるべきである。
効率と回復力は、常に競合するわけではない。手順を単純化すれば故障原因が減り、切替が容易になることがある。処理の負荷を減らせば訓練の時間を確保できる。AIによって調査や翻訳の費用が下がれば、独立した検討へ参加できる人も増える。効率化を疑う際にも、何を削る効率化なのかを分けたい。
私が警戒するのは、平均的な状況での成績だけを改善するうちに、失敗した後の選択肢まで見えなくなることだ。平時に最善である構成が、条件の変化に対しても最善であるとは限らない。しかし、この命題から特定の予備の保存が自動的に正当化されるわけではない。維持の理由は、一つずつ示さなければならない。
予備の数、失敗の違い、被害の範囲
故障へ備える設計から借りられる原理はいくつかある。複数の経路を持てば、一つを失っても機能を続けられる可能性がある。ただし、同じ原因で壊れる経路を増やしても、その原因への備えは増えない。予備の数と、失敗の仕方の違いは分けて見る必要がある。
異なる手段を残すには費用がかかる。道具、知識、操作方法が違えば、平時の管理も引継ぎも複雑になる。違いを増やすこと自体を目的とするべきではない。同じ失敗を共有しないためにどの違いが必要か、その違いを保ったままどこを共通化できるかを選ぶ。
別の問題は、故障がどこまで広がるかである。部分を区切り、一部の異常が全体へ波及しない構成を作る。区切った部分同士が必要なときに助け合えるなら、局所化と代替を組み合わせられる。孤立させるだけでは、支援の経路まで失う。
さらに、通常時より遅く、狭い範囲で動くことを許容する設計がある。全機能の停止を避け、重要な連絡、判断の保留、必要な処理だけを続ける。こうした機能縮退は、完全な復元を待つ間の選択肢になる。
これらを列挙しても、社会の回復力を説明したことにはならない。観測できなければ切替の契機が分からず、権限がなければ実施できず、訓練がなければ使える経路か分からない。失敗した切替を戻す手続も要る。複数の原理が、実際の運用の中で結びついて初めて備えになる。
社会へ移す際には、もう一つの限定が必要だ。人や地域は部品ではない。被害を局所化する措置によって、資源を受け取れなくなる人がいるかもしれない。切り離す権限を与えるなら、支援、期限、異議、再接続の条件を伴わせる必要がある。技術的に適切な隔離と、社会的に正当な隔離は、別の問いを含んでいる。
接続を増やすことと、使える経路を増やすこと
広い接続は、遠くの知識、資源、協力者へ届く条件を作る。その便益を、危険の議論によって消してはならない。一方、誤った情報や資源不足の影響も同じ経路を伝わる。短い経路は、助けと被害の両方を速くすることがある。
したがって、接続の多さだけを目標にすることも、少なさだけを安全の証拠とすることもできない。何が伝わる経路か、伝播の速さはどうか、どこで止められるか、止めた側へどの支援が届くかを分けて調べる。特定のネットワークの形を万能な解にするより、状況に応じて接続を変更できることに注目したい。
ここで、部品を海外から調達する工場を仮想的に考える。供給者が止まり、別の供給者が見つかったとしても、規格の確認、契約、資金、輸送、承認が必要になる。供給者の一覧が長いことと、操業を続けられることは違う。切替が実施できるまでの時間を含めて、代替経路を評価しなければならない。
AIの提供者を変更する場合も、同じ区別が役に立つ。別サービスが存在しても、データを移せず、手順が依存し、変更を承認する人がいなければ代替にならない。二つの提供者が同じ基盤や誤った情報源に依存するなら、切り替えた先にも同じ問題が残る。
接続の変更は、一度で完了する判断ではない。危険を検知して一部を止め、別の経路を使い、条件が整ったら再接続する。誰が現場で判断でき、どの影響から全体の調整が必要になり、いつ見直すかを決める。この権限の構成まで含めて、接続を考える必要がある。
能力がないことと、能力を使えないこと
社会が問題を解けないとき、必要な知識や技能が不足している場合がある。育成の経路が減り、教える人が失われ、手順を更新できなくなる。第一・二回で扱った認知能力の減耗は、この側面に関わる。
別の側面では、知識を持つ人は存在する。状況も把握されている。しかし、複数の説明を比べられず、決定できず、実行の費用を分けられない。あるいは決定はあるが、従う理由が共有されていない。こちらは、存在する能力を共同の行動へ変える調整の問題である。
状況の認識、知識の照合、判断、決定、動員、実行、結果からの学習を順に見ると、知識の集積から行動までの段差が見える。情報を集めるAIの性能が上がっても、決定権限や費用の配分が決まるとは限らない。どこで止まっているかを特定しないと、情報を増やす対策を繰り返すことになる。
能力と調整力を二つの軸に置けば、少なくとも四つの状態を考えられる。能力も調整も高ければ、問題に対応する条件が整う。能力は高いが調整できなければ、知っていても動けない。協力はできても知識が足りなければ、同じ誤った方針へ進む危険がある。両方が弱い場合は、育成と連携を同時に立て直す必要がある。
この区別は分析のためのもので、実際には二つが影響し合うだろう。組織が調整できず、訓練の費用が配分されなければ、能力も減るかもしれない。必要な知識がなく判断への信頼が下がれば、協力も難しくなりうる。反対に、調整の費用が下がれば、学習へ資源を回せることもある。相互作用の方向と大きさは、具体的な制度で調べるべき仮説である。
社会的な結束は、同じ意見を持つことか
共同の行動には、他者の説明を受け取り、決定を認め、負担を引き受ける条件が要る。この条件を社会的な結束と呼ぶとしても、全員が同じ価値観を持つという意味へ限定する必要はない。
異論を持つ人も、決定の根拠が示され、負担が説明され、後で変更できるなら協力することがある。決定への同意が完全でなくても、決め方への信頼が行動を支える。反対に、結論へ賛成していても、負担を一方的に押しつけられれば協力は続かない。
異議の存在を調整の失敗として扱う制度では、実行が速く見えるかもしれない。しかし、現場から戻る情報を減らし、方針の誤りを修正しにくくする。参加した人が後から異議を出しても、裏切りと見なされないことは、学習する組織の条件になる。
ここに政治の仕事がある。何を共同の目的とし、どの知識を判断の根拠とし、誰へどの負担を求めるかを決める。情報処理の性能では解消しない価値の選択を扱い、決定を正当化し、変更への経路を保つ仕事である。
政治的な正統性と、技術的な正確さのどちらかを選ぶ話でもない。正確な知識を欠く決定は危険であり、正確な知識から導かれたとしても、その負担を説明せずに決定を強制する制度には別の問題がある。知識を使えることと、その使い方を正当化できることを、ともに条件へ含めたい。
分担を見直す権限も、分担する
市場、国家、地域、専門職、AIには、異なる仕事を任せられる。どの仕組みもすべての状況で適切とは限らない。平時には有効だった分担が、危機時には切替を妨げる場合がある。問題が変わったときに、その構成を変更できるかが問われる。
複数の統治の仕組みを選び、組み合わせ、見直すことを、メタガバナンス (metagovernance)として考える。重視したいのは、何をどこで決め、どの条件で権限を移し、どこで異議を扱うかという設計である。一つの上位司令部を作って済む問題とは考えない。
現場だけに任せると、広い範囲への影響を扱えないことがある。すべての判断を中央へ集めると、局所的な異常への対応が遅れるかもしれない。そこで、現場が一時停止できる範囲、全体の調整を要する条件、停止後の報告と支援、変更の期限を組み合わせる。
この変更権限にも、自己保存の利益が生じる。役割を失う組織は変更へ抵抗するかもしれない。変更を命じる側も、失敗を認めず権限を維持しようとするかもしれない。基準、費用、試験結果を公開し、見直す条件を制度化するという第二回の問題が、ここでも現れる。
可逆性は、過去の構成を完全に復元することとは限らない。失った人や組織を、そのまま戻すのは難しい。重要なのは、変更が失敗した後に別の構成へ移れることだ。人材、記録、移行手段、独立した判断を残す意味は、この再構成の可能性にもある。
世界的な接続と、責任の範囲のずれ
取引、情報、供給の範囲が国境を越えると、遠くの能力を利用できる。しかし、失敗への介入権限、費用の再配分、決定の正当化が、同じ範囲へ同じ速さで広がるとは限らない。接続の範囲と統治の範囲のずれを、診断のための仮説として考えたい。
先ほどの仮想工場でいえば、供給者の変更によって費用が別の地域へ移るかもしれない。利益を受ける企業と、失業や資源不足の影響を受ける人は一致しない。各主体が自分の権限の範囲で合理的に動いても、全体の切替と負担が調整されないことがある。
だからといって、世界的な接続を閉じれば問題が解けるわけではない。接続が代替の知識や資源をもたらすこともある。国内に集めた経路が同時に壊れる可能性もある。どこへつながるかに加えて、接続を変える権限と費用をどう配分するかを調べるべきだ。
この仮説を、金融危機、感染症、帝国の崩壊へ一律に当てはめることはできない。それぞれに異なる歴史、制度、物理的な機構がある。接続が統治より速く広がるという見方は問いを作る道具にはなるが、類似して見える事例を並べても原因の証明にはならない。
必要なのは、情報や損失が越える境界と、介入できる境界を具体的に照合することだ。契約で解ける問題、地域で調整する問題、国家間の合意が要る問題を分ける。全体を一つの組織へ統合する答えも、孤立する答えも、最初から正解と置くべきではない。
AIが調整を助けるなら、何を確かめるか
AIは、代替によって能力を減らす要因としてだけでなく、調整の費用を下げる手段として考えられる。異なる言語を訳す。議論の履歴を保存する。複数の政策案が誰にどんな影響を与えるかを比較する。専門知を他の人が検討できる説明へ変える。これらは共同の行動を助ける可能性がある。
この可能性を認めるなら、人の技能が一部減ったことから、社会全体の機能も必ず低下すると結論することはできない。AIによって新しい検証の経路が生まれ、調整が良くなり、重要機能の回復が容易になる場合も考えられる。評価するべきなのは、能力と調整の両方に起きた変化である。
ただし、要約が意見を落とし、比較が特定の価値を暗黙に優先し、その出力を人が変更できなければ、調整が速くなったことを成功として扱えない。誰の意見が落ちたかを確かめられること、別の根拠を持ち込めること、案を覆せることを条件へ含める必要がある。
また、AIが選んだ案だから負担が正当になるわけではない。判断材料を増やすことと、負担を決めることは違う。提供者へ移行や検証の条件を求め、利用組織へ責任と権限を配分し、人が異議を扱う経路を持つという制度は、調整を助けるAIにも必要になる。
残すものを選び、構成を変えられるか
この連載から提案したい文明のレジリエンスは、故障を局所化し、重要機能を保ち、独立した経路へ切り替え、失敗から学び、必要なら制度の構成まで変えられる能力である。これは原論文が検証した定義ではなく、AI依存の問題から広げた考察の到達点だ。
残す対象は、古い技術や制度の全体ではない。再学習に時間がかかる判断、異なる失敗の仕方を持つ経路、最低機能を支える実践、共同で動くための信頼と権限を選ぶ。維持が目的から外れた場合は、それを見直せる仕組みも残す。
文明の衰退を、能力減耗や調整不全の一語で説明することはできない。物理的な資源、暴力、環境、経済など、別に扱うべき条件がある。ここで得られたのは万能の理論ではなく、効率化によって何を手放し、その後どの経路で立て直せるかを問う視角である。
AIは人間から何を奪ってよいのかという問いは、誰にも任せず考え続けるべきだという答えには着地しなかった。重要な機能を選び、その機能を再生産する条件と、構成を変える権限を使える状態で維持する。そのために誰が費用を払い、誰が異議を出し、誰が決定するかを、技術の導入と同時に決める必要がある。
便利さを得るたびに、立て直す条件を確かめる。その条件も、時には便利さによって作り直せる。手放したものをすべて元へ戻すことより、失った後にも共同で考え、別の構成を選べることに、回復力の基準を置きたい。
ポイント整理
平時の効率の外にある機能
予備は用途、代替、切替の時間によって評価し、すべての旧来の方法を保存しない。
効率化が回復力を改善する場合もあり、何を削るかを具体的に見る。
接続と変更する権限
予備の数、共通の失敗原因、被害の範囲を分けて確かめる。
切離しには支援、期限、異議、再接続の条件を伴わせる。
能力と調整の二つの不足
知識がないことと、知識を共同の行動へ変えられないことを区別する。
異論を持ったまま協力できる正統性と、結果から学ぶ経路が要る。
構成を見直す統治
国家、市場、地域、専門職、AIの分担を変更できる条件を置く。
AIによる調整の改善も評価し、人が異議を出し変更できるかを確かめる。
キーワード解説
【メタガバナンス (metagovernance)】
複数の統治の仕組みを選び、組み合わせ、見直すこと。単一の上位司令部だけを意味しない。この連載では、権限と接続の変更、異議、再評価の分担へ重点を置く。
【分散認知】
知識や認知の働きが、個人の頭の中だけでなく、他者、道具、記録との関係にも存在するという捉え方。知識が分散して存在することは、集団が決定して実行できることを保証しない。
【可逆性】
変更が失敗したときに、別の構成へ移れる性質。ここでは過去を完全に復元する意味へ限定しない。人材、記録、代替経路、変更権限を残すことが関わる。