使わない能力に、誰が費用を払うのか──AI時代の認知予備力と制度設計
シリーズ: 論文渉猟
◆今回のレポート：Ricard Solé et al., "Large-Language Models as a Cognitive Virus" (arXiv, 2026年9月3日）
概要：LLM利用に伴う人間側の結合状態を三つに分け、社会的な利用の伝播と自律的実践の補強が、転換点、多重安定、依存状態からの回復にどう関わるかを検討する理論研究。
AIを使わずに仕事をする時間は、成果を測る表では効率の悪い時間になりやすい。完成品の質と処理速度が変わらないなら、自力で考える練習を続ける組織は、その分だけ余計な費用を払っているように見える。
その費用の意味が分かるのは、AIが停止したとき、誤った出力を続けるとき、既存の処理では扱えない問題が生じたときである。ところが、その時点から能力を育て直していては間に合わない仕事がある。必要になってから調達できない能力を、必要でない時期に維持する。この時間のずれが、制度設計の出発点になる。
ソレらの理論研究から前回引き出したのは、利用を減らしても独立した実践が自動的には戻らない条件があるという問いだった。今回は、それを制度の側から考える。何を維持し、誰が負担し、誰が重要性を決めるかを提案として検討する。原論文が政策の効果を実証したわけではない。
合理的な節約が、全体の不足を作る
能力を残すよう訴えるだけでは、その能力を使わずに済む組織を動かしにくい。AIによって処理時間が短くなる便益は、導入した組織へ比較的すぐに帰属する。対して、訓練や独立した検証の費用は平時からかかり、その便益は将来や異常時に現れる。見えやすい費用と見えにくい便益を比べれば、訓練の削減は合理的な選択になりうる。
便益が組織の外へ出ることもある。育てた人が別の会社へ移れば、移動先が熟練を利用する。業界が維持する判断能力は、顧客や社会の被害を減らすかもしれない。費用を負う主体と便益を受ける主体のずれは、維持を個々の自発性に任せたときに不足が生じる理由になる。
だからといって、AI導入による能力の過少投資がすべての分野で既に実証されたとは言えない。AIが教育費用を下げ、これまで訓練を受けられなかった人へ機会を広げる場合もある。まず調べるべきなのは、何が代替され、その時間がどこへ移り、どの能力の育成が増減したかである。
制度上の焦点は、善意のある組織だけに費用が集まらないようにすることだ。共同の訓練機関、業界での育成費用の分担、調達価格への維持費の算入などが候補になる。人材の移動を止めて便益を囲い込む方法ではなく、移動があっても育成を続けられる方法を探すべきだ。
ただし、共同負担という言葉で配分を隠してはいけない。大企業と小規模事業者では、負担能力も必要な機能も違う。雇用の不安定な人に無給の訓練を求めるなら、維持費が個人へ転嫁される。予備を残す制度は、その費用を誰が払っているかまで記録して初めて評価できる。
人間を置いても、判断能力は残らない
自動化には、平常時の作業を引き受けるほど、人間へ残る仕事が例外や異常へ偏るという問題がある。ベインブリッジの1983年の自動化研究は、人間の運用上の難しさが自動化によって消えるわけではないことを論じた。この問題は、LLMへ判断の下準備を任せる場面でも検討する価値がある。
普段の仕事で経験を積む機会が減るのに、難しい出力の評価だけ求められる。人を最終確認に置けば責任の所在は作れるが、その人が確認できるとは限らない。根拠へアクセスできず、時間もなく、停止を決める権限もないまま署名するなら、人の関与は形式になってしまう。
最終責任を人間へ置く制度には、能力を維持する機会と、判断を行使できる条件を伴わせる必要がある。必要なのは、配置人数より、異常を認識できるか、分からないときに保留できるか、別の手順へ移れるかという確認である。責任だけを重くすると、担当者は危険を知らせるより記録上の正当化へ向かうかもしれない。
日常の一部を自力で処理する、担当を交替する、未知の条件を模擬する。これらは維持の方法として考えられる。ただし全件を二重に処理する必要はない。どの機能をどの水準で残すかに応じて、実践の量と頻度を決める。AIによって浮いた時間の一部を、こうした維持へ回せるなら、利用と育成は両立する。
失敗を扱う組織の慣行も関わる。模擬訓練で失敗した人を罰する仕組みでは、難しい課題が選ばれなくなり、問題が報告されなくなる。試験の合格率が上がるほど安心してよいとは限らない。観測できなくなった不足を、良い結果と取り違える危険がある。
維持する機能の選び方
AI以前の技能をすべて保存する方針は、費用が大きいだけでなく、何を守りたいかを曖昧にする。手作業の再現に価値がある場合もあれば、別の手段で十分な場合もある。特定の職種を残すことと、重要な判断を可能にすることも一致しない。
そこで、維持する対象を四つの問いで選ぶことを提案したい。第一は、機能を失ったときの損失である。便利な文体の調整が止まる場合と、生命や権利に関わる判断が止まる場合では、許容できる中断が違う。第二は、複数の経路が同時に失われる危険である。代わりが多く見えても、同じ基盤へ依存していれば、一緒に止まる。
第三は、再学習や再編成にかかる時間である。短時間で手順を学び直せる機能なら、記録と臨時の訓練で対応できるかもしれない。長い実践を通じてしか身につかない判断では、教える人と練習の経路を平時に残す意味が大きい。第四は、他の組織や方法による代替可能性である。自組織ですべて抱える必要がなくても、外部の経路が実際に使えることを確かめる必要がある。
四条件を一律の点数へ変換すれば答えが出るとは考えない。条件同士は関連する。重大な損失があっても独立した代替が容易なら、自力の維持水準は変わる。逆に、平時の損失が小さくても、多数の機能を同時に失う条件の一部なら重要になる。数値の一覧より、採用した手段と退けた代替案の理由を説明することが要る。
この連載では、そのように選ばれた重要な判断を再び行える能力と育成条件を、認知能力の予備力 (cognitive capability reserve)と呼ぶ。神経科学の認知予備力と同一の概念ではなく、組織と制度を考えるための提案である。個人に余分な知識を詰め込むことよりも、経験を使える状態に保ち、他者へ渡し、失った場合に育て直せる条件を含めている。
独立した回復経路は、人間だけに限られない
予備力を論じると、人間による手作業へ戻れることが絶対条件に見えやすい。しかし、重要機能の回復に必要なのは、失敗した経路と十分に独立した代替である。別のAI、別の組織、簡略な手順、人間の経験など、複数の手段を組み合わせることができる。
独立性は、名称や契約先の数からは分からない。二つのサービスが同じ情報源の誤りを参照する場合、出力が同方向へ偏ることがある。同じ基盤や認証経路を使えば、同じ停止条件を持つかもしれない。人間も、同じAIの説明をそのまま評価基準にするなら、異なる判断経路として働いていない。
人間を残す理由があるとすれば、名簿上の生物学的な違いだけではない。現場経験、別の資料、身体を通じた観察など、出力の外に確かめる経路を持ちうることである。その経路を実際に使う時間や権限がなければ、人がいることの便益は小さくなる。
ここでは二つの価値を分けておきたい。システムの回復可能性は、重要機能が別の経路によって維持されるかを問う。人間の認知自律性は、人が理解し、疑い、異議を出し、判断へ関われるかを問う。回復できるシステムでも、人がその判断を変更できないことはありうる。両者が重なる場合は多いが、一方の達成を他方の達成と見なしてはいけない。
予備を所有する代わりに、切り替えてみる
予備があるという申告を、実際の機能へ変えるには試験が要る。重要機能を選び、特定のAI支援を使えない条件で、何がどの水準まで続けられるかを確かめる。このAI停止試験を制度案として提案する。
通常時の性能を完全に再現する必要はない。処理速度を落とす。重要度に応じて案件を選ぶ。判断を保留して外部へ渡す。こうした縮退によって、復旧まで守るべき最低機能を定める。何を遅らせ、誰を優先するかには価値判断が含まれるため、技術担当だけで決めることはできない。
測る対象には、異常を認識するまでの時間、代替への切替時間、最低機能の遂行、停止や引継ぎの権限、通常運用へ戻す条件を含める。単に支援が止まる場合と、もっともらしい誤答を出し続ける場合は分ける。後者では、動作していることが安心の理由になってしまうからだ。
正解がまだ分からない仕事なら、正答率だけでは評価できない。不確かさを認識できるか、保留すべき判断を保留できるか、専門家や別の組織へ渡せるかを確かめる。できない範囲が明確になることも、試験の成果である。できないと分かった機能について、維持するか、外部へ委ねるか、停止時の提供を約束しないかを決められる。
本番を止めることが損害を生むなら、隔離した環境や模擬課題を使う。試験そのものの影響と費用を、対象機能に合わせる。重要性を理由に過大な訓練を要求すれば、維持の仕組みが続かなくなる。
また、年一回の合格は能力の恒久的な証明ではない。担当者が変わり、手順が更新され、AIや外部契約が変われば、前提も変わる。日常の実践、訓練、試験、変更後の再確認をつなぐことが必要になる。予備力は、倉庫に置いて数えられるものより、継続して使える関係に近い。
責任、保険、調達、資格は何を変えるか
制度手段は、導入したという事実より、誰の行動をどう変えるかで評価したい。責任の配分では、必要な情報と制御権限を持つ側に、危険を減らす動機を持たせる。現場の確認者へ責任を集めながら、根拠の検証や停止を認めない設計は整合しない。
保険では、回復経路の違いが損失の違いとして評価できるなら、維持費用を保険料などへ反映することが考えられる。しかし、訓練の回数や書類の有無だけを条件にすれば、実際の能力との関係が切れる。形式的な遵守へ支払う制度を作らないことが重要だ。
調達では、納期と通常時の品質に加えて、最低機能の維持、独立した検証、切替の条件を契約に入れる。発注者はその費用を価格へ含める。要求を増やしながら価格だけ下げるなら、現場の無給労働か見かけの対応へ転化する。資格や継続研修では、重要な判断を行う実践を確かめる。その際、資格を持つことが将来も能力を持つ保証にならないよう、確認の対象と期限を定める。
以上は提案であり、現在の法制度や保険商品がこのように整っているとの説明ではない。また、各手段を全部の分野へ同時に導入する必要もない。機能の重要性、危険の測定可能性、維持費用に応じて選び、効果を評価するべきだ。
AI提供者にも役割がある。利用組織が検証するための情報、利用記録、切替や移行の手段を確保できる設計と契約を求めたい。記録は振り返りを助けるが、判断の全過程を説明するとは限らない。出典表示は確認の入口になっても、内容の正しさの保証ではない。移行可能性は一社への依存を減らせるが、移行先の独立性を保証しない。手段ごとの効き方を限定して説明する必要がある。
重要性を決める制度を、重要性の外に置かない
維持すべき能力を定める制度には、判断する権力が生じる。専門職は、自分たちの経験から危険を見つけられる。同時に、自分たちの仕事を残す利益も持つ。企業は費用と実践を知っているが、短期の利益へ偏りうる。行政は社会的な影響を扱えるが、既存基準の継続へ傾く場合がある。
どれか一つの主体へ決定を任せれば客観的になるとは考えにくい。選択基準、維持費、試験結果、代替案を公開し、利用者と影響を受ける人が異議を出せる経路を置く。合意できない部分では、誰が決め、誰が負担し、どの条件で覆せるかを明確にする。全員参加という掛け声だけでは、声を出しにくい人が参加したことにならない。
基準には見直しの期限と失効の条件を設けるべきだ。新しい独立経路ができ、再学習が容易になれば、維持の理由は変わる。一方、相互依存が深まり同時故障の危険が増えれば、以前より強い備えが必要になる。残す判断も、手放す判断も更新できるようにする。
私は、ここを欠いた認知予備力の制度は、旧来の職務の保護へ変わりやすいと考える。人間の仕事を残すこと自体を成果とするより、重要機能の独立した回復と、人が判断へ関われる条件を確かめる。基準を決める制度も、その二つの目的に照らして評価されるべきだ。
利用を増やしても、依存は減らせるか
利用率は、制度の目標を一つで表す指標にはならない。AIを大量に使う組織でも、独立した検証、定期的な実践、移行、回復の経路を持てば、重要機能を維持できる可能性がある。利用が少なくても、一つの判断を誰も確かめられないなら依存の危険は残る。
また、全員の自力の能力を同じ水準で維持する必要もない。教える人、検証する人、非常時に処理する人へ役割を分け、組織間で協力する方法がある。ただし分担を進めるほど、共同で動く条件が重要になる。専門家が存在していても、情報が届かず、招集できず、権限が与えられなければ、社会の機能にはならない。
第二回の到達点は、重要な仕事を独立した経路で取り戻せるよう、能力と育成条件を選んで維持するという原則である。その費用と権限を、現場の努力へ押しつけず、便益を受ける側と制御できる側へ分配する。
しかし、能力を持つ人と組織を用意すれば、共同の行動が生まれるとは限らない。誰の知識を採用し、どの負担を誰に求め、どの決定に従うか。この調整ができない社会は、知っているのに動けない。第三回では、能力を残す問題と、能力を結び直す問題をともに考える。
ポイント整理
維持費と便益のずれ
能力の維持費は平時に発生し、便益は将来や組織の外にも現れる。
個々の主体の自発性に加え、育成と回復の費用を分担する制度が必要になる。
選ぶ対象としての重要機能
損失、同時故障、再学習の時間、代替可能性を理由として示す。
旧来の技能を一律に保存せず、独立した経路の組合せを評価する。
動かして確かめる予備
停止と誤答を分け、最低機能、検知、切替、引継ぎを試す。
日常の実践と変更後の再確認が、試験を実際の維持へ結びつける。
決める権力の見直し
維持費、根拠、代替案を公開し、異議と再評価の経路を置く。
機能の回復可能性と、人が判断へ関わる自律性を別々に確認する。
キーワード解説
【認知能力の予備力 (cognitive capability reserve)】
重要な判断や作業を、必要なときに再び行えるように保つ能力と育成条件。この連載の制度的な提案であり、神経科学の認知予備力と同一の概念ではない。個人の知識だけでなく、実践、教える人、組織間の関係を含む。
【共通原因故障】
複数の経路が同じ原因で失われること。見かけ上の予備が多くても、基盤や情報源を共有すれば独立した備えにならない。何に依存しているかを調べる必要がある。
【機能縮退】
障害時に性能や提供範囲を下げ、重要な機能を維持する運用。通常時の完全な再現より、最低限守るものを明確にする。優先順位と負担を決める権限も設計に含まれる。