生成AI統治の三条件が答えていない問い──介入能力は、良い統治と同じではない
シリーズ: 論文渉猟
◆今回の論文：Fabian Ferrari, José van Dijck and Antal van den Bosch, "Observe, inspect, modify: Three conditions for generative AI governance" (New Media & Society 第27巻第5号、2025年）
概要：生成AIを規制対象物として捉え直し、統治の構造的条件を産業的観察可能性・公共的検査可能性・技術的変更可能性の三つに分解する論考。物質的参照可能性・アルゴリズム的不透明性・規制的共同生産という三つの分析テーマから各条件を導き、基盤モデルについて検査すべき情報と変更可能性をそれぞれ五層に整理する。当時のEUのAI法草案を事例に、その規定が層ごとの粒度に対応していないことを指摘する。なお本稿は草案段階の分析であり、成立後の最終法文を扱ったものではない。
生成AIをめぐる議論には、反論しにくい一文がいくつかある。あまりに複雑で中身が分からない。企業秘密だから外から検証できない。技術の更新が速すぎて規制は常に後追いになる。国家間の開発競争がある以上、一国だけで止めることはできない。
どれも、それ自体としては誤りではない。だが四つを積み上げると、ある効果が生じる。人間が設計し、人間が資本を投じ、人間が運用している技術が、いつのまにか人間社会の手を離れた自然現象のように語られはじめる。そして自然現象については、交渉という選択肢が最初から消えている。
ユトレヒト大学のファビアン・フェラーリ、ホセ・ファン・ダイク、アンタル・ファン・デン・ボスの論文は、この前提そのものを疑う。彼らの主張は、生成AIを理解不能なブラックボックスとしてではなく、化学物質や遺伝子組み換え作物や高頻度取引アルゴリズムと同じ種類の規制対象物として扱えるはずだ、というものである。そのための構造的条件として、産業的観察可能性、公共的検査可能性、技術的変更可能性の三つが提示される。
一見すると、AI規制のための分類論に見える。だが本稿が注目したいのは、著者らが行っている知的操作の方である。彼らは「AIは統治できるのか」という巨大で曖昧な問いを、具体的な能力と介入点へ分解している。
そしてこの操作を最後まで押し進めると、論文自身が十分には答えていない問いに突き当たる。AIを観察し、検査し、変更できるようにする。それはよい。では、その強力な能力を誰に持たせ、その行使を誰が監督するのか。
統治不能と語ることの二重性
不透明性という一語は、二つのまったく異なる事態を覆っている。
ひとつは機械学習の数学的な複雑性である。論文はジェナ・バレルの定式を引く。機械学習に特有の高次元空間における数学的最適化と、人間的尺度の推論および意味論的解釈の様式が要求するものとのあいだには、不一致がある。この困難は実在するし、簡単には消えない。
もうひとつは、企業が情報を開示しないことによって生じる不透明性である。ある基盤モデルの訓練データに何が入っているかが分からないのは、ニューラルネットワークが数学的に難解だからではない。書かれていないから分からない。論文はここを明示的に指摘する。大規模言語モデルの不透明性は、訓練データのような本質的な構成要素の詳細を開示しないという企業戦略の直接の結果でもある、と。
この二つを同じ語で呼ぶかぎり、後者はつねに前者の権威を借りることができる。そして著者らは、そこにもう一段の判断を重ねる。アルゴリズム的不透明性を生成AIの不可避の特徴として帰属させることは、透明性義務などの監督措置を回避するための、その所有者による言説的な操作である。つまり「AIは理解できない」という言明は、技術の記述であると同時に、統治権限の配分をめぐる政治的主張として機能しうる。
ここで著者らが置く問いは鋭い。規制当局が化学物質や遺伝子組み換え食品を謎めいた統治不能の対象として分類し、自らの行為能力を進んで縮減することはない。ならば、なぜAIについてだけそうなるのか。
重要なのは、著者らが複雑性の存在自体は否定していないことである。人間的尺度を部分的に超える数学的複雑さがあることを認めたうえで、同時に、意図的に隠されている部分もあると言う。二つを切り分ければ、片方をもう片方の免罪符にできなくなる。
規制対象物という一手
では、どうやって統治可能にするのか。論文の最初の一手は、理論的には野心的だが、実務的にはきわめて地味である。生成AIを規制対象物として立てる。
規制対象物とは、エリザベス・フィッシャーの定義によれば、規制する主体が規制されるべきものとして理解する事物であり、統治されうる物質的な項目として理解されうるものである。社会的影響を与える現象であるだけでは足りない。どこからどこまでを対象とするか、どの属性を測るか、どの部分を変更させるかを特定できる必要がある。
論文が引く二つの先例が、この概念の実務的な意味を明らかにする。
ひとつは高頻度取引アルゴリズムである。ドイツの高頻度取引法を分析した研究によれば、操作的な取引アルゴリズムを画定することは、そのアルゴリズムを独立した対象として客体化した後の、派生的な第二段階にすぎない。取引アルゴリズム、取引プラットフォーム、取引企業の三者は不可分に結びついているが、分析的に分離することが決定的だった。取引企業は社会技術システム内部でアルゴリズム的対象の境界を引き直し、アルゴリズム的活動と人間の活動を厳密に分離することを義務づけられた。そうして初めて、変化し続ける秘密のアルゴリズムが規制当局に見えるようになった。
もうひとつは遺伝子組み換え作物である。ハビエル・レサウンの研究は、農場から食卓まで食品生産システム全体を通じて追跡できる行政実務と検出手段を「参照可能性のインフラ」と呼ぶ。それは二つの要素からなる。規制対象物に明確な名前を与えて行政上の曖昧さをなくすこと、そして検出手法を標準化すること。名前と物差しである。
ここから引き出される含意は、AI規制論の通念を静かに覆す。規制対象は自然に存在するのではない。行政上の名称、分類、検出方法を通じて、追跡可能な対象として制度的に作られる。規制する側が何を規制するかを決めるとき、実は対象そのものを組み立てている。組み立てが粗ければ、どれだけ厳しい罰則を用意しても執行は空を切る。
透明性ではなく、観察可能性
三条件のうち最初のものは、しばしば透明性と同義に読まれる。だが著者らは意図的に別の語を選んでいる。
論文が引くベルンハルト・リーダーとヤネット・ホフマンの定式は明快である。透明性は名目上、状態が存在するかしないかを記述する。観察可能性は、所与の領域における観察という実践の条件を強調する。著者らは、この区別が検査可能性と変更可能性にも等しく当てはまると述べ、これはイエスかノーかの問いではなく、程度の問いであり、交渉可能な行為の場である、と書く。
この差は言い換えの問題ではない。透明性は二値的であるがゆえに、情報を出したという事実だけで義務が履行されたと見なす余地を残す。千ページの技術報告書を公表しても、必要な情報が含まれていなければ意味がない。含まれていても、読んで検証する主体に専門能力と計算資源がなければ意味がない。問題を発見しても、変更を命じる権限が誰にもなければ意味がない。
したがって、フェラーリらの三条件を最も強く読むなら、これは透明性を増やせという主張ではない。ガバナンスを、情報公開ではなく対象への実効的な介入能力として捉え直す試みである。
この読み方は、対象の可変性とも結びついている。生成AIのモデルは、再訓練、微調整、人間のフィードバックによる強化学習、安全フィルターの更新、外部ツールとの統合によって絶えず変わり続ける。一度の認証で完了する静的な規制は、対象の側の可変性に追いつかない。論文が引く表現を借りれば、継続的な観察は法的・技術的な仕様を超えて及ぶ必要がある。
産業スタックと、基盤モデルの五層
観察の対象は単体のソフトウェアではない。著者らは、生成AIを計算インフラ・基盤モデル・消費者向けアプリケーションが密接に絡み合う複合的な関係として捉え、これを「プラットフォーム化の木」という比喩で描く。樹冠に消費者向けアプリケーション、幹に基盤モデル、根に計算資源。クラウド計算サービス、データセンター容量、エネルギー資源。
この木には階層的な依存がある。GPT-4のような著名な基盤モデルは、AI生態系の中心に位置する本質的なゲートキーピング・サービスになりつつある。その下では、アマゾン・ウェブ・サービス、マイクロソフト・アジュール、グーグル・クラウド・プラットフォームといった大手のクラウド部門が計算インフラの提供を支配する。そしてそれらの企業自身も、エヌビディアのようなチップメーカーと、TSMCのような半導体企業に依存している。
注目は樹冠に集まる。規制の議論もそこから始まりがちである。だが権力の中心は幹と根にもあり、どの層に義務を課すかによって、規制の届く範囲はまったく変わる。
論文がとりわけ基盤モデルを焦点に据えた理由は、技術的というより制度的である。当時のEUのAI法が「基盤モデルの提供者」を規制されるべき主要な行為者と定義し、透明性義務と技術的変更を課していたからだ。法制度の側が、どこを見るべきかを先に決めている。
そのうえで著者らは、基盤モデルについて検査すべき情報を五層に分ける。基盤モデルの訓練データセット、微調整のための分野特化データセット、ニューラルネットワークのアーキテクチャ、全パラメータを含む訓練済みモデル、そして訓練と出力生成のためのスクリプトである。
この分類の価値は、単純さにある。「AIの中身が分からない」という一枚岩の問題が、五つの別々の問題へ割れる。訓練データが分からないことと、微調整で何を望ましい出力としたかが分からないことと、出力を生成するコードが分からないことは、原因も責任主体も是正方法も異なる。層ごとに情報の形式が違い、検査の実務も違う。設定ファイルを読むことと、データセットを網羅的に洗うことは同じ作業ではない。
論文が挙げる具体例が、層ごとの開示の偏りを示す。GPT-3.5は45テラバイトのテキスト、約3000億語で訓練され、ウィキペディア、コモン・クロール、GitHubといった公開情報源に加え、開示されていない情報源からも抽出されている。微調整データは競争上の理由で遮蔽されるのが通例だが、例外もある。グーグルのMed-PaLMは、医療目的での微調整に用いたデータベースを公開しており、医師国家試験などからの20万件を超える質問応答の組と、米国国立衛生研究所による消費者の質問と参照回答が含まれる。
著者らは、五層すべてへの一定のアクセスが本質的だと主張する。手順の再現可能性を検証し、生成物の完全性を評価し、バイアス除去の直接的な研究を可能にするためである。そしてその実務を担う主体として、免許を持つ外部専門家によるモデル監査を想定する。
規制と技術は、互いを作る
三つ目の理論的支柱が規制的共同生産である。技術が先に存在し、後から外部の規制が加えられる、という時間順序を著者らは疑う。
シーラ・ヤサノフの定式では、知識とその物質的な具現は社会的な営為の産物であり、同時に社会生活の諸形態を構成するものでもある。論文はこれを、身も蓋もない例で言い換える。もし生成AIがそもそも不透明な編成でなかったなら、透明性要件の必要はなかっただろう。逆に言えば、透明性義務ができたことで、透明にするという作業が技術の側に生まれた。モデルカードはその典型で、開発者による下からの標準化装置として発展した書式である。
ただし、書式ができれば書式を満たすだけの書き方も生まれる。論文はそこも見ている。半閉鎖や完全閉鎖のモデルでは、不透明性は「薄く覆われた透明性」として現れることがある。OpenAIとメタが公表したモデルカードは、研究者からも政策担当者からも、深刻に、おそらくは意図的に記述不足であると批判された。
ここから著者らは、自主規制への期待を正面から退ける。基盤モデル提供者の「倫理的」な自主規制を促進することは監督を損なう。基盤モデルを規制当局に検査可能にすることに、経済的な利益はないからである。
そして論文は、企業の政治的資源を産業的観察可能性の一部として扱う。OpenAIの最高経営責任者サム・アルトマンは、AI法の遵守が不可能と判断した場合にEUのデジタル単一市場から撤退する可能性に言及した。2023年1月時点の報道では、ChatGPTは日次1億人を超えて利用されていた。この巨大な利用者基盤が政治的圧力の源泉になる。政策担当者は、技術の進歩を妨げていると見られたくない。配車企業ウーバーが規制当局や自治体へ向けて消費者請願を組織したのと同型の消費者動員が、AIでも起こりうると著者らは書く。
産業構造を観察するとは、供給網の図を描くことではない。どの主体が、どの経路で、規制の内容そのものを動かしうるのかを見ることである。
「公共」という空白
ここまでが論文の骨格である。そして以下は、論文への外在的な批判ではなく、論文自身の方法を論文自身へ適用した場合に自然に出てくる問いである。
公共的検査可能性という語の「公共」は、具体的には誰を指すのか。
論文は、この語を二つの意味で用いる。基盤モデルは保存されたネットワーク・パラメータとハイパーパラメータという最も詳細な水準で深い規制上の検査に開かれるべきであり、かつ、公共的知識と共有財の道具として扱われるべきである。そして開放か閉鎖かという二分法は退けられる。イレーヌ・ソライマンの六段階——完全閉鎖、段階的アクセス、ホスト型アクセス、クラウドまたはAPI経由、ダウンロード可能、完全公開——を引いて、開放性は二者択一の問いではないと述べる。
この立場は妥当である。だが連続体を採用した瞬間に、新しい問題が生まれる。段階を作るとは、誰をどの段に置くかを決めることだからだ。
一般市民、研究者、報道、市民社会団体、認定された監査人、行政機関、議会、裁判所、AIを導入する企業。これらは必要とする情報も、扱う能力も、負う責任も、利害も異なる。モデルのウェイトを一般に公開する必要はなくても、認定監査機関にはアクセスさせるべきかもしれない。では誰が監査人を認定するのか。監査費用は誰が払うのか。企業が監査人を選んで報酬を払うなら、会計監査の世界が繰り返してきた利益相反の構造がそのまま再現されないか。監査機関が巨大AI企業から人材を採用すれば、規制の取り込みは起きないか。監査結果はどこまで公開するのか。
著者らは航空産業との比較を引く。技術的な安全弁を制御・試験する免許を持つ規制当局と、エンジン仕様を公表する義務とでは、開放の水準が異なる。この類比は示唆的だが、同時に問題を浮かび上がらせる。航空の免許制度は一世紀をかけて構築された制度的達成であり、比較の前提そのものが未整備なのである。
筆者の見立てでは、ここに本論文の最も興味深い非対称がある。著者らはAIについては五層まで下りていく。訓練データならモデル開発者、微調整データなら展開者、というように変更主体まで特定する。ところが制度の話になると、企業・政府・市民の各主体のあいだの適切な均衡、という水準で解像度が落ちる。これはガバナンスの原則であって、ガバナンスの設計ではない。
公平を期せば、著者らはこの限界を隠していない。結論部で、この枠組みの外側に他の条件がないと主張するものではないと述べ、法令遵守もまた高度に関連する側面だと認め、説明責任を実務においていかに執行できるかという問いはさらなる研究を要すると書く。本稿はガバナンスの完成形ではなく、統治不能論を退けて制度設計を始めるための分析上の入口である。
アクセス権と検査能力は、別物である
論文の方法を制度へ返したとき、最初に現れる具体的な論点がこれである。
仮に大学の研究者に基盤モデルのウェイトへのアクセスを認めたとする。それで検査ができるかといえば、できない。巨大なモデルを走らせて挙動を系統的に評価するには、相応の計算資源が要る。訓練データについても同じことが言える。45テラバイトのテキストを渡されたところで、それを解析する人員と資金と時間がなければ、開示は事実上の不開示と変わらない。
つまり、情報へのアクセスの分配と、実際に検査する能力の分配は別の問題である。そして後者の方が、はるかに動かしにくい。
この区別は、政治経済的な含意を持つ。公共的検査可能性を制度化した結果、実際に検査できるのが巨大な監査法人、一部の大手大学、国家機関だけだとすれば、企業から取り戻したはずの権力は、別の少数主体へ移っただけということになる。AIを検査可能にすること自体が、新しい権力配分を作るのである。
論文が開放性を連続体として見る理由は、どの部分が公共の精査に開かれるかを決める権力を独占しようとする企業の試みへの対抗にある。その狙いは正しい。だが、対抗した結果どこに能力が集まるかは、それ自体が独立した設計問題として扱われなければならない。単なるアクセス権ではなく、検査能力の社会的分配が問題になる。
さらに、権限の配分と影響の配分は重ならない。監査を受けて困るのは企業だが、監査の結果としてモデルが変更されたとき、最も影響を受けるのはその仕組みを日々使っている人々であることが多い。彼らは通常、その決定の場にいない。誰が能力を持つかという軸と、誰が帰結を負うかという軸は、別々に立てる必要がある。
なお、論文自身も公共性について規範的な主張を置いていることは記しておきたい。公開されており、しばしば公的資金で作られたデータセットを使って訓練される基盤モデルが共有知識の形成につながるのなら、その基盤モデルもまた公衆にアクセス可能にされるべきだ、というものである。これは技術監査の議論を超え、集合的に作られた知識の私有化という論点へ接続している。
変更可能性は、価値中立ではない
三つ目の条件に進むと、問題はさらに明確に政治的になる。
論文の表2は、五層それぞれについて誰が何のために変更できるかを整理する。訓練データは事前訓練の過程で開発者が変更する。事前訓練済みのモデルでは、データを一部差し替えて再訓練することは容易ではないため、介入は主に訓練前の段階に限られる。微調整データは展開者が変更できる。ChatGPTのRLHF層のように、複数の候補出力から事後に選別する仕組みは、どの有害な出力が濾し取られ、どれが取られないのかを決めている。価値判断が最も濃縮された場所である。
ここで最も注目すべきなのは、訓練済みパラメータの欄に置かれた一文である。変更する理由はない、と論文は書く。ウェイトは訓練の最終結果であり、手作業で変えれば性能を損なう可能性が高い。技術的変更可能性とは、あらゆる層を直接操作できるようにせよという主張ではない。介入が意味を持つ点と持たない点を区別すること。これは技術的に粗いAI規制論への、静かだが有効な修正である。
そして著者らは、変更可能性が政治的に中立でないことを自ら示す。中国のインターネット情報弁公室は、明確な標識のないAI生成メディアの制作を制限し、市民が関連する標識を削除し、改竄し、または隠蔽する技術的手段に訴えてはならないと定めた。論文はここで、強制的な電子透かしは検閲を行使する手段として機能する、と明記する。対照的に、欧州の文脈では、基盤モデルの変更可能性は開放性・プライバシー・自律性を含む民主的価値に確固として基礎づけられるべきだとし、電子透かし技術の使い方を決める共同生産が支配的企業によって独占されてはならないと述べる。
だとすれば、次の帰結は避けられない。観察・検査・変更のすべてが可能な権威主義国家を想定することができる。政府がAI産業を完全に把握し、モデル内部を検査し、企業にモデル変更を強制できる。三条件は満たされている。それでもなお、それを民主的なAIガバナンスとは呼べない。
したがって、フェラーリらの三条件が実際に定義しているのは、良いガバナンスの十分条件ではない。AIという技術対象に対して実効的に介入する能力の条件である。介入能力を持つことと、その能力を正当に行使することのあいだには、もうひとつ巨大な設計問題が横たわっている。
ついでに言えば、技術的変更可能性は政策介入の全体でもない。罰金、市場参入の制限、損害賠償責任、公共調達からの排除、競争法による分割。いずれも強力なAIガバナンスの手段だが、AIそのものを技術的に変更しているわけではない。三条件を「ガバナンス一般の三要素」へ拡張しないことが、この枠組みを正しく使うための条件である。
統治する力を、修正可能に保つ
では、その介入能力を誰に、どの範囲まで与えるのか。
具体化すると、問いはきわめて退屈になる。誰が情報提出を要求できるのか。誰が機密のモデルを検査できるのか。誰がモデル変更を命令でき、どの条件でのみ行使できるのか。企業は異議を申し立てられるのか。利用者は、あるいは利用者でないが影響を受ける人々は申し立てられるのか。裁判所は規制当局の判断を審査できるのか。議会は規制当局の権限と予算を変更できるのか。そして、ある規制が意図しない結果を生んだとき、誰がそれを検知し、制度を修正するのか。
ここで当然の反論が来る。規制当局を監督する機関を作れば、その機関を誰が監督するのかという無限後退が生じる。
だが、民主的な制度がこの問いに与えてきた歴史的な答えは、最終的な監督者を一人つくることではなかった。権限を分割し、異なる主体に異なる役割を与え、相互に依存させ、複数の修正経路を用意すること。行政が企業を監督し、司法が行政判断を審査し、立法が行政の権限と予算を定め、研究と報道が政策の帰結を外部から検証し、企業と市民が異議を申し立てる。どれも単体では不完全であり、現実には機能不全も取り込みも起きる。だが構造としては、一方向の監督階層ではなく、複数のフィードバック回路になっている。
この視点から見れば、フェラーリらの三条件を統治権力の側へ返すことは、修辞的な対称性ではなく実質的な主張になる。誰がいつどの法的根拠でどの企業に何を命じたのかが記録され、その根拠と手続きと比例性が外部から検証でき、不当であれば行政内部で修正され、司法が取り消し、立法が基準を変えられる。民主的なAIガバナンスとは、AIを統治可能にすることだけではなく、AIを統治する権力そのものを修正可能に保つことである。
ただし、修正可能性の最大化が目的なのではない。いつでも変更されうる制度は予見可能性を損ない、長期の計画も、法的安定性も、当事者の信頼も成立しにくくなる。ここには本物のトレードオフがある。設計上の解は、制度を変えやすくすることではなく、変更の条件と手続きと頻度そのものを制度化しておくことである。
そして、観察・検査・変更という三条件をあらゆる政治制度の万能理論へ拡張すべきでもない。民主的正統性には、代表、参加、権利、熟議、法の支配といった、この三語では捉えきれない次元がある。分配的正義も別に考える必要がある。三条件が有効なのは対象への介入能力を分析する場面であり、その能力が正当に配分されているかを問うには別の枠組みが要る。この限定を置くことは、論文に対しても公平である。
制度は、新しい問題を作る
もうひとつ、制度設計を具体化すると必ず現れる論点がある。ガバナンスは問題を解くだけでなく、新しい問題を作る。
高度な第三者監査を基盤モデル提供者へ一律に義務づければ、安全性は高まるかもしれない。だが対応の固定費が重ければ、巨大企業は負担できても小規模な事業者は退出する。公共的な監査を強化した結果として市場集中が進み、安全規制が参入障壁として機能する可能性がある。監査を担う新しい産業が形成され、規制当局と監査企業と被監査企業のあいだに人材の往来が生まれる。そして測定しやすい指標だけが重視され、重要だが測定しにくい問題が制度の視野から落ちる。
これらは導入前に完全には予測できない。だからこそ、必要なのは正しい制度を一度で設計することではない。制度が実際に何を生み出しているかを観察し、その効果と副作用を検査し、必要なら制度そのものを変更する能力を残しておくことである。ここでも観察・検査・変更は、AIモデルの監督手段から、適応的なガバナンスを考えるための視角へと移動する。
「解決不能」を分解する
ここから射程を広げたい。ただし、人類が直面する大問題のすべてがガバナンス問題だ、という一般化は行わない。ウイルスは制度が作るわけではないし、地震は法律では止まらない。科学的・技術的に本当に解けていない問題も存在する。
限定すべき範囲は、多数の相互依存する主体が関与し、単一の主体では解決できない問題である。気候変動、感染症対策、金融の安定、海洋資源、抗菌薬耐性、国際課税、そしてAIの安全。これらには共通の構造がある。利益と費用が非対称に分布し、情報が分散し、外部性があり、協力から離脱する動機が存在し、関係する主体ごとに時間軸が異なる。
この種の問題について、公共的な議論はしばしば二つの地点だけを語る。問題がある。こうあるべきだ。その間が抜け落ちる。
実際には、その間に長い連鎖がある。問題の因果分解、関係主体の特定、情報の所在、能力、権限、誘因、利益と費用の分配、介入、執行、監視、異議申立て、フィードバック、制度の修正。この中間層が見えないとき、問題の深刻さは分かる、理想も分かる、しかしどうにもならない、という感覚が生まれる。そして、AI開発競争は止められない、企業は利益を追求するものだから仕方ない、世界政府がないから無理だ、といった巨大な説明へ流れていく。
これらの説明が常に誤りだというのではない。問題は、それだけでは何が本当の制約なのかが分からないことである。
分解すれば、難しさの中身が割れる。必要な知識が存在しないのか。技術が存在しないのか。資源が足りないのか。誰が何をしているかを測定できないのか。多数主体を調整する手段がないのか。個々の合理的行動が集合的失敗を生んでいるのか。費用と便益の分配について合意できないのか。現状から利益を得る主体が変更を阻止できるのか。合意しても違反を検知・制裁できないのか。そもそも望ましい状態について正当な価値対立があるのか。これらはすべて異なる問題であり、異なる処方を要求する。
ただし、ここで楽観へ跳んではならない。分解は解決ではない。むしろ具体化した結果、利害の対立が強すぎる、執行費用が便益を上回る、拒否権を持つ主体が強すぎる、越境的な管轄権が存在しない、といった答えが出ることの方が多いかもしれない。
だが、それは理由の分かる悲観である。「人類には無理だ」という説明とは性質が違う。条件が変われば結論が変わる可能性が見えるし、何を観察すれば仮説を検証できるかも分かる。AI開発は止められない、という一文より、主要国が相互に遵守を検証できず離脱による戦略的利益が大きいため開発抑制の合意が安定しない、という一文の方が強い。後者は検証でき、反証もできる。
したがって、本稿の結論は楽観の推奨ではない。制度を工夫すれば何でも解決できるという主張でもない。むしろ逆である。「解決できない」という判断にも、具体的な根拠を要求すべきだということである。
フェラーリらが生成AIについて行った重要な操作は、AIを簡単に解ける問題へ変えたことではない。統治不能という一枚岩の主張を、観察・検査・変更という具体的な問いへ分解したことである。その操作は、AIを統治する制度に対しても使える。そして、おそらくは諦めそのものに対しても使える。
技術をブラックボックスから取り出すだけでは足りない。制度もまたブラックボックスから取り出さなければならない。それによってすべてが解けるわけではない。だが少なくとも、何が知識の限界で、何が技術の限界で、何が制度の欠陥で、何が利害と権力の対立なのかを区別できる。どうしようもない運命と、難しいが変更可能な設計問題との境界線は、その区別を経たあとでなければ引けない。
ポイント整理
不透明性の二分
機械学習の数学的複雑性と、企業が開示しないという選択は、同じ語で呼ばれながら性質が異なる。前者は認識の限界であり、後者は意思決定である。
両者を混ぜたままにすると、後者がつねに前者の権威を借りる。論文は、不透明性を不可避の特徴として語ること自体を、監督回避のための言説的操作だと指摘する。
規制対象は作られる
高頻度取引では、アルゴリズムを取引プラットフォームや取引企業から分析的に切り離すことが、規制の前提条件だった。遺伝子組み換え作物では、名称の付与と検出手法の標準化が追跡を可能にした。
生成AIについても、規制対象は自然に存在するのではなく、行政上の名称と検出方法を通じて制度的に構成される。組み立てが粗ければ、罰則の重さは執行力に変換されない。
透明性から介入能力へ
透明性は開示されたか否かという状態を指す。観察可能性は、誰が、どの情報へ、どの頻度で接近できるのかという実践の条件を問う。
この区別を通すと、ガバナンスの質は開示文書の量ではなく、問題を発見し、原因を特定し、変更を命じ、その結果を再検証できるかで測られることになる。
アクセス権と検査能力の乖離
モデルのウェイトを開いても、走らせて評価する計算資源がなければ検査は成立しない。膨大な訓練データも、解析する人員と資金がなければ実質的には不開示と変わらない。
したがって公共性は、アクセス権の分配だけでなく検査能力の分配で評価する必要がある。検査できる主体が少数に限られるなら、権力は企業から別の少数者へ移っただけになる。
介入能力と正当な統治の分離
観察・検査・変更のすべてを備えた権威主義国家は想定可能であり、三条件はそれ自体では民主的ガバナンスを含意しない。論文自身、強制的な電子透かしが検閲の手段として機能しうることを認めている。
三条件が定義しているのは、対象への実効的な介入能力の条件である。その能力を誰に、何のために、どの範囲まで与えるかは、別の設計問題として立てなければならない。
統治権力の修正可能性
監督者を誰が監督するのかという無限後退への答えは、上位監督者の追加ではなく、権限の分割と複数のフィードバック回路の設置だった。
ただし修正可能性の最大化は目的ではない。予見可能性との緊張があるため、変更の条件と手続きと頻度そのものを制度化する必要がある。
キーワード解説
【規制対象物 (regulatory object)】
規制主体が「規制されるべきもの」として理解し、統治されうる物質的な項目として捉えうる対象を指す。エリザベス・フィッシャーによる概念で、社会的影響を与える現象であるだけでは足りず、境界、測定すべき属性、変更対象が特定できることを要件とする。
【行政的名辞論 (bureaucratic nominalism)】
規制対象に明確な名称を与え、行政上の曖昧さを除去する実務を指す。ハビエル・レサウンが遺伝子組み換え作物の統治を分析する際に用い、検出手法の標準化と組み合わせて「参照可能性のインフラ」を構成するとした。
【プラットフォーム化の木】
生成AI産業を、樹冠の消費者向けアプリケーション、幹の基盤モデル、根の計算インフラという三層として描く比喩。ホセ・ファン・ダイクによるもので、注目が集まる層と権力が集中する層が一致しないことを視覚化する。
【モデルカード】
基盤モデルの訓練データ、性能、バイアス、倫理的考慮などを記載する開発者向けの標準化された文書。規範と規制の圧力から生まれた書式だが、記述不足のまま形式的な透明性を演出する装置にもなりうる。
【交渉可能性 (negotiability)】
観察・検査・変更が可能になった対象が帯びる第四の性質として、論文が提示する概念。AIを人類に不可避に降りかかる謎めいた力としてではなく、民主的な交渉の対象となる人工物として位置づけ直す狙いを持つ。