AIの越境配備の政治学──説明責任の届かない領域

Seo Seungchul
7月1日
読了時間: 12分

シリーズ: 知新察来

◆今回のピックアップ記事：Tony Oweke, "Who Is Accountable When AI Goes Global?" (Council on Foreign Relations, 2026年5月27日)　

概要： AIは少数の国・企業によって開発され、多数の国・社会に配備される。この非対称な構造のもとで、越境的な被害が起きたときの責任の所在が曖昧になっている。各国はそれぞれ独自のAIガバナンスを整備し始めているが、その制度は自主規制型から拘束力ある法律まで大きく分岐しており、この断片化が説明責任をさらに困難にしている。国連はGlobal Digital Compactを通じて調整機関としての役割を担いうるが、真の課題は原則を掲げることではなく、AIが既存の社会制度に埋め込まれる配備の段階で、適正手続と監督をどう確保するかにある。

AIによる被害が国境を越えて生じたとき、責任を負うのは誰か。この問いに、いまのところ明快な答えはない。開発した企業か、導入を決めた政府か、あるいは見過ごした国際機関か。答えが定まらないのは、誰も答えを探していないからではない。答えを支える枠組みそのものが、いまだ存在しないからだ。

米外交問題評議会(CFR)のリサーチフェロー、Tony Owekeの論考は、この空白を正面から扱っている。国連のAI交渉で134の途上国を代表してきた経験を持つ筆者の視点は、AIガバナンスを技術標準の問題としてではなく、越境的な責任帰属という政治の問題として描き直す。本稿は、この論考が提示する空白の構造をまず丁寧に辿り、そのうえで、筆者自身が明示的には踏み込んでいない層へと議論を広げていく。

悪意の有無にかかわらず、問題は広がる

筆者はまず、二つの具体例を挙げる。一つは、高所得国のデータで訓練されたがん検出アルゴリズムが、グローバルサウスの患者を誤診する事例である。濃い肌の色や、その地域特有の疾病プロファイルが、訓練データにそもそも含まれていなかったことが原因だ。もう一つは、欧州の国境・庇護システムにおけるAI利用である。信憑性評価や本人確認、嘘発見といった判断にAIが用いられることで、庇護希望者が不透明な判断過程を経て危険な国へ送還されるリスクが生じている。

この二つの事例に共通するのは、加害の意図が存在しないことだ。開発者は手元にあるデータで最善のモデルを作っただけであり、導入する政府や医療機関も、多くの場合は改善を意図してAIを採用している。筆者はこの点を強調する。これは悪意ある事業者が引き起こした問題ではなく、共通の基準もガードレールも越境的な統治権限も持たないまま、変革的な技術を国境を越えて配備していること自体が生む問題なのだ、と。

責任の所在が曖昧になる理由は、開発者、導入する政府や機関、規制当局、そして影響を受ける市民が、それぞれ異なる場所に立っていることにある。責任という概念は、本来これらの主体のあいだに張られた線の上に成立する。ところがAIの越境配備は、その線を最初から前提としていない。

継ぎはぎの統治

この空白を埋めようとする動きは、すでに各所で起きている。地域機関、国際機関、各国政府、さらには教皇レオまでもがAI統治の必要性を語り、労働問題になぞらえた回勅を出している。だが筆者はこれを合意形成の進展としては見ていない。共通の危機感はあっても、実効的な合意には至っていない状態だ、というのが筆者の評価である。その結果として、基準、原則、決議、国際サミット、地域法制、AI枠組み条約が乱立し、その多くが範囲の限定性、排他性、執行メカニズムの欠如のいずれか、あるいは複数を抱えている。

各国の国内制度も、大きく分岐している。シンガポールは、国家AI戦略、任意のモデルフレームワーク、テストと保証のツール、分野別規制を組み合わせているが、包括的なAI法は持たない。インドは2025年のガイドラインで、既存の法律・制度を土台にした原則ベースの非拘束モデルを採用しつつ、AI Governance GroupやAI Safety Instituteといった新たな調整体の構想も示している。ブラジルは国家戦略とリスクベースの法案を組み合わせ、その法案は現在、下院の審議を待っている。米国のNational Policy Frameworkは、州ごとのAI法ではなく将来の連邦法による制度化を志向しつつ、中央集権的な新機関ではなく既存の規制機関を活用する方向を示す。

筆者はこの分岐を、企業のコンプライアンス負担として論じている。複数法域への対応コストの増大は、確かに実務上の問題だ。しかし本稿の見立てでは、より重要なのはその先にある。ルールが足りないのではなく、ルールがばらばらに増殖し、その相互運用性が確保されていないことこそが、越境被害が生じた際の共通の責任帰属ルールを弱めている。

最低限の調整役としての国連

この断片化に対して、筆者は国連への期待を示す。ただしその期待の描き方は控えめだ。最低限の役割は、グローバルヘルス、戦争、人道法、気候、食料安全保障、国際開発といった領域で、AIの越境的利用に関する合意形成を仲介する調整機関としての機能である。最大限の役割は、条約の解釈や批准、あるいは各国の国内戦略への影響を通じて、執行可能な法的文書を国際的に広めることだ。

Global Digital Compactを通じて、国連には二つの具体的な任務が与えられている。一つは独立国際科学パネルの設置であり、各国・地域の政策形成や多国間協議に必要な証拠基盤を提供する。もう一つはGlobal Dialogue on AI Governanceの設置であり、政策討議とアイデア形成のための場を提供する。

筆者が最も重く見ているのは、しかしこの先だ。国連は国際原則の設計では一定の進展を見せているが、それを実際の制度・手続・監督に落とし込む運用の段階は、はるかに困難である。理由は明快だ。AIの社会的影響は、研究室で測られる理論的能力そのものによって決まるのではなく、その技術が既存の社会制度、法制度、行政手続き、医療制度、国境管理制度に埋め込まれることで初めて生じる。ほとんどの政府にとって、説明責任・適正手続き・監督が最も切実になるのは開発段階ではなく配備段階だと、筆者は述べる。多くの政府がAIの開発・実装過程にほとんど関与できていないからこそ、配備時の統治設計が決定的な意味を持つ。

筆者はこの論考を、各国が自国のAI規制を急ぐ動きへの擁護で締めくくる。それは技術革新への過剰反応でも、国際協調の理想への裏切りでもなく、変革的な越境技術を前にして自国の主体性・主権・尊厳を守ろうとする自然な反応だ、というのが筆者の立場である。

ここまでが、筆者の論考が描く空白の輪郭である。ここから先は、この空白がなぜ生じるのかを、筆者が直接参照していない理論的な語彙を借りて捉え直してみたい。

配備は完成の後にやってくるのではない

筆者が「配備段階」を決定的な瞬間として位置づけていることには、単なる実務上の強調以上の意味がある。AIの影響を、研究室で測られる性能の問題としてだけ扱う限り、その技術が特定の社会にどう作用するかという次元は視野の外に置かれたままになる。

科学技術社会論の領域では、この視座はシーラ・ジャサノフの共産出(co-production)という概念によって定式化されてきた。科学技術の知識と社会秩序は、独立に生成されたのちに出会うのではなく、相互に構成し合う一つの過程の産物である、という理解である。ジェイミー・スティルゴーの責任あるイノベーション論も、この共産出的な視座を実践に応用したものとして位置づけられる。技術は、完成した製品として社会に届けられるのではなく、それを受け入れる制度や規範との相互作用のなかで、初めてその意味を確定させる。

この視座に立つと、筆者が挙げた二つの事例の読み方が一段深くなる。がん検出AIの誤診は、訓練データの偏りという開発段階の欠陥であると同時に、その欠陥を検証し是正する仕組みを欠いた医療制度の側の問題でもある。庇護審査AIの誤判定も、アルゴリズムの精度の問題であると同時に、申請者に実効的な異議申し立ての手段を与えていない行政手続きの問題である。技術の失敗と制度の失敗は、別々の事象として並存しているのではなく、一つの失敗が二つの面から観察されているに過ぎない。

だとすれば、AIガバナンスの焦点をモデルの安全性評価だけに置く議論は、視野の半分しか捉えていないことになる。どこで、誰が、どの制度の中で、どの権限を持ってAIを用いるのか。誤りが生じたとき、誰が説明し、誰が是正し、誰が救済するのか。この問いに答えられて初めて、一つの技術についての議論が完結する。

多中心性という賭け、そしてその前提

各国のAI規制が異なる設計を採用していること自体は、必ずしも欠陥ではない。単一の世界標準を上から課すことは、それぞれの国の主権や行政の伝統と衝突する。むしろ問われるべきは、この分岐した制度群を、単一の権威に統合することなく、どうつなぐかである。

この発想は、エリノア・オストロムが提唱した多中心的ガバナンス(polycentric governance)の枠組みに近い。単一の中央権威がすべてを統治するのでも、誰も統治しないのでもなく、複数の統治主体がそれぞれの領域で自律的な決定権を保ちながら、部分的に重なり合いつつ調整していく仕組みである。国連が「最低限は調整機関」として控えめに位置づけられていることも、この多中心的な発想と整合する。統一するのではなく、つなぐ役割である。

ただし、オストロムの議論はもともと、共有資源の管理という、当事者同士が比較的近接した関係にある文脈から導かれたものだった。漁業組合や灌漑用水の管理者たちは、互いの行動を観察し、信頼を反復的に積み重ねることができる。AIの越境配備という文脈では、この前提が崩れる。開発する主体と配備される社会は、直接顔を合わせる関係にない。行動の観察可能性も、信頼を蓄積するための反復的な相互作用も、制度として組み込まれていない。

このとき、Global Digital Compactを通じて国連に与えられた二つの任務、すなわち独立国際科学パネルとGlobal Dialogueは、この欠落を埋めるための最小限の足場として理解できる。壮大な世界政府の構想ではなく、遠く隔たった主体同士に、観察と対話の回路を人為的に作り出す試みである。

言い換えれば、越境AIガバナンスが直面しているのは、単一のルールが存在しないという不足の問題であると同時に、複数のルールのあいだにプリンシパル(委任する側)とエージェント(委任される側)の関係を成立させる仕組み自体が欠けているという、より根の深い問題でもある。開発者に、配備先の社会への説明責任を課す委任関係が、制度として存在しない。だから技術は、誰に対しても十分に説明責任を負わないまま、国境を越えていく。

少数が作り、多数が引き受ける

しかし、多中心性という発想には、もう一つ見落とせない前提がある。それを構成する諸中心が、ある程度対等であることだ。この前提は、AIの越境配備という文脈では成立していない。

筆者は論考の終盤で、各国が自国のAI規制を急ぐ動きを、主体性・主権・尊厳を守ろうとする自然な反応だと位置づけている。イノベーションの阻害という語りにも、国際協調の理想という語りにも与しない、抑制の効いた評価である。だが筆者自身が明示的には踏み込んでいない層がある。開発する少数の主体と、配備される多数の社会のあいだの非対称性そのものだ。

この非対称性は、単なる技術移転の速度の問題ではない。誰の利害が意思決定の議題に上り、誰の利害が最初から議題に上らないのかという、より根の深い問題として捉え直すことができる。スティーヴン・ルークスが三次元的権力として定式化したのは、対立や命令として表面化することのない、この種の権力の作用である。ある集団の不利益が、争点として認識される以前の段階ですでに不可視化されているとすれば、それは最も見えにくい形の権力行使にほかならない。

がん検出AIの訓練データに、特定の肌の色や疾病プロファイルが含まれていなかったことは、おそらく悪意の結果ではない。だが同時に、それはその地域の患者の利害が、開発の初期段階でそもそも議題として立ち上がらなかったことの帰結でもある。多中心的ガバナンスも、国連による調整機能も、この不可視化そのものを解消する仕組みではない。せいぜい、誰が議題に上り、誰が上っていないかを、事後的にでも数え続けるための場を提供するに過ぎない。

それで十分か、と問われれば、十分だとは言えない。だが、数え続けることをやめてしまえば、その不十分さにすら気づけなくなる。越境AIガバナンスをめぐる議論の最終的な賭け金は、おそらくここにある。原則を掲げることでも、調整機関を設けることでもなく、視界の外に置かれ続けている利害を、誰がどうやって数え続けるのか、という地味な問いである。

ポイント整理

説明責任の空白は、悪意ではなく地理的分断から生まれる
- 開発者・導入機関・規制当局・被影響者が別々の場所に立つことで、責任が宿るべき「線」自体が最初から存在しない
各国のAI規制の分岐は、企業の負担以上に、相互運用性の欠如として問題である
- シンガポール・インド・ブラジル・米国はそれぞれ異なる制度設計を採っており、ルールの不足ではなくルールの断片化が越境被害への対応を困難にしている
配備の瞬間こそが、AIの社会的影響を決定する
- 技術の意味は研究室での性能ではなく、既存の社会制度に埋め込まれる過程で確定する。共産出の視座に立てば、技術の失敗と制度の失敗は一つの事象の両面である
多中心的ガバナンスは、当事者間の近接性を前提とする仕組みであり、その前提がAIの越境配備では崩れている
- 国連の科学パネルと対話プラットフォームは、遠く隔たった主体間に観察と対話の回路を人為的に作る、最小限の足場として理解できる
多中心性の前提には対等性があり、AIの越境配備にはそれが欠けている
- 開発する少数と配備される多数の非対称性は、議題設定そのものから特定の利害が排除されているという、三次元的権力の問題として捉え直せる

キーワード解説

【共産出(co-production)】

シーラ・ジャサノフが科学技術社会論の領域で定式化した概念。科学技術の知識と社会秩序は独立に生成されたのちに出会うのではなく、相互に構成し合う一つの過程の産物であるとする見方。技術は完成品として社会に届けられるのではなく、受け入れる制度や規範との相互作用のなかで意味を確定させる。

【多中心的ガバナンス(polycentric governance)】

エリノア・オストロムが提唱した統治のモデル。単一の中央権威がすべてを統治するのでも、統治が不在であるのでもなく、複数の統治主体がそれぞれの領域で自律的な決定権を保ちながら、部分的に重なり合って調整していく仕組みを指す。もともとは共有資源管理の実証研究から導かれた。

【三次元的権力】

スティーヴン・ルークスが提示した権力の類型論。命令や強制として現れる権力(一次元)、議題設定を通じて特定の争点を排除する権力(二次元)に加え、対立や不満そのものが認識される以前の段階で利害を不可視化する、最も捕捉しにくい権力の作用を指す。

【Global Digital Compact】

国連が採択した、デジタル領域の国際協力に関する枠組み文書。AIガバナンスについては、独立国際科学パネルの設置とGlobal Dialogue on AI Governanceの設置という二つの具体的な任務を国連に与えている。