誰がAIの行方を決めるのか？――専門家支配と市民参加のはざまで
- Seo Seungchul
- 1月11日
- 読了時間: 11分
シリーズ: 論文渉猟
◆今回の論文：Lucile Ter-Minassian, "Democratizing AI Governance: Balancing Expertise and Public Participation" (arXiv, 2025年1月16日）
概要：本論文は、AIガバナンスにおける専門家主導と民主的参加のバランスを分析。フランスの気候市民会議とブラジルのAI規制枠組みを事例に、参加型・熟議型民主主義モデルの可能性と課題を検討。EU向けのガバナンス提言を含む。
AIが医療診断を左右し、採用選考を動かし、刑事司法に影響を与える時代になりました。自動運転車が街を走り、生成AIが文章を書き、画像を作る。こうした技術が私たちの生活を根本から変えようとしている今、ひとつの問いが浮かび上がります。「この技術のルールは、いったい誰が決めるべきなのか？」
歴史的に見れば、技術のガバナンスは専門家の領域でした。原子力も、遺伝子工学も、専門知識を持つ少数の人々が規制の枠組みを作ってきました。しかしAIは違います。その影響範囲があまりに広く、あまりに深い。だからこそ、市民の声をどう取り入れるかという問題が、かつてないほど切実になっています。
本記事では、フランスの「気候市民会議」とブラジルのAI規制法案という二つの事例を通じて、専門知と民主参加がどう両立しうるかを探ります。富良野とPhronaが、技術と民主主義の交差点で何が起きているのかを読み解いていきます。
技術のルールは誰のものか
Phrona：この論文の「AIガバナンスの民主化」っていうタイトルからして、専門家が決めるのが当然、という前提をひっくり返そうとしていますよね。でも富良野さん、そもそもなぜ技術の規制って専門家中心になってきたんでしょう。
富良野：単純に言えば、理解できる人が限られていたから、というのが大きい。原子力発電所の安全基準を議論するのに、核物理学の素養がなければ話にならない。そういう発想ですよね。
Phrona：「わからないことは専門家に任せる」という、ある種の合理性があった。
富良野：ええ。テクノクラシーというか、専門家による統治の正当化根拠はそこにあった。ただ、AIの場合はちょっと事情が違うんです。
Phrona：何が違うんですか？
富良野：影響を受ける範囲が違う。原子力発電所は立地地域の人々に直接影響がある。でもAIは、採用選考に使われれば就活生全員に影響するし、医療診断に使われれば患者全員に影響する。
Phrona：生活のあらゆる場面に入り込んでくる。
富良野：そう。だから「自分には関係ない」と言える人がほとんどいない。それなのに、決定プロセスから市民が排除されている、という問題意識が論文の出発点ですね。
Phrona：でも、私ちょっと引っかかるんですよ。AIの技術的な部分って、本当に複雑じゃないですか。ニューラルネットワークがどう動くとか、機械学習のバイアスがどう生じるとか。それを市民が議論できるのかな、って。
富良野：そこなんですよ。論文もまさにその緊張関係を扱っている。専門知識なしに判断できないことと、専門家だけで決めてはいけないことの両方がある。
くじ引きで選ばれた150人
Phrona：フランスの気候市民会議の事例、すごく興味深いですよね。くじ引き、つまり抽選で選ばれた150人の市民が気候政策を議論したという。
富良野：ソーティションと呼ばれる方式ですね。古代アテネの民主制でも使われていた、くじ引きによる代表者選出。
Phrona：ランダムに選ぶことで、社会の縮図を作ろうとしている。
富良野：性別、年齢、居住地域、学歴、職業。いろんな属性のバランスを取って、フランス社会を小さく再現した。トラック運転手もいれば、看護師もいれば、農家もいる。
Phrona：選挙で選ばれた政治家とは全然違う顔ぶれですよね。
富良野：そこが重要なポイントで。選挙だと、どうしても特定の属性の人に偏る。高学歴、高所得、弁護士や経営者が多くなりがち。くじ引きだと、そういうバイアスが入りにくい。
Phrona：でも、いきなり素人が気候変動という複雑なテーマを議論できるものなんですか？
富良野：そこで専門家の出番なんです。会議では、気候科学者や経済学者、法律の専門家がレクチャーをして、市民が質問できる場を設けた。
Phrona：教えてもらいながら議論する。
富良野：ただ、専門家は「教える」だけで「決める」のは市民。この線引きが大事だった。結局、149の提言がまとまって、その多くが高い支持を得た。
Phrona：へえ。市民だけで、ちゃんとした政策提言ができたんですね。
富良野：トラック運転手も看護師も、学べば議論できる。そういう希望を見せた事例ではある。
マクロンの「フィルターなし」という約束
Phrona：でも富良野さん、この市民会議、うまくいったように聞こえるけど、結末はどうだったんですか？
富良野：そこが複雑なところで。マクロン大統領は当初、市民の提言を「フィルターなしで」実行に移すと約束したんです。国民投票か、議会審議か、政令で直接施行か、いずれかの形で。
Phrona：かなり大胆な約束ですね。
富良野：ところが実際には、提言の多くが骨抜きにされた。気候レジリエンス法という形で一部は法制化されたけれど、市民たちは自分たちの案と大きく違うと反発した。
Phrona：せっかく時間をかけて議論したのに。
富良野：そう。市民会議のメンバー自身が、政府の対応を10点満点で評価したら、3.3点だったという話もある。
Phrona：それは低い。
富良野：熟議民主主義の限界がここに出ている。市民が時間をかけて合意を形成しても、最終的な決定権が別の場所にあれば、その合意が反映される保証はない。
Phrona：市民は「提言」はできても「決定」はできない、ということ？
富良野：少なくともこのケースでは。もちろん、最初から市民に決定権を与える設計も可能だけど、それはそれで別の問題が出てくる。
Phrona：たとえば？
富良野：選挙で選ばれた議員の正当性との衝突。「くじ引きで選ばれた150人に、なぜ法律を決める権限があるのか」という問いは、けっこう難しい。
ブラジルの実験
Phrona：ブラジルのAI規制の話も出てきますよね。こっちはまた違うアプローチ？
富良野：そうですね。ブラジルは公聴会とパブリックコメントを中心にした、いわゆるマルチステークホルダー方式を取った。
Phrona：いろんな立場の人から意見を聞く、という感じ？
富良野：市民社会団体、企業、学者、技術者。幅広いアクターが参加できる場を設けた。ブラジルにはもともと「市民インターネット憲法」と呼ばれる法律を作った経験があって、そのときもオープンな協議プロセスを踏んだ。
Phrona：なるほど。でも抽選で選ばれた市民が議論するフランスとは違いますよね。
富良野：そこがポイント。公聴会に来るのは、基本的に「関心のある人」なんです。自分で手を挙げて参加する人。
Phrona：すると、声の大きい人や組織化された利害関係者の意見が通りやすくなる？
富良野：その傾向はあり得る。企業のロビイストは何度も発言できるけど、普通の市民は仕事があれば公聴会に来れない。
Phrona：参加の機会は開かれているけど、実際に参加できるかは別問題。
富良野：ただブラジルの場合、最終的にできた法案はかなり包括的で、リスクベースのアプローチと権利ベースのアプローチを組み合わせている。市民の意見がどこまで反映されたかは評価が分かれるけれど、少なくとも形式的には開かれたプロセスだった。
Phrona：形式と実質の差、ですね。
専門家と市民は対立するのか
Phrona：ここまで聞いてきて思うんですけど、専門家と市民って、本当に対立関係にあるんですかね。
富良野：いい質問ですね。論文もそこを問い直している。二項対立で考えるのは間違いだ、と。
Phrona：どういうことですか？
富良野：専門家は「何ができるか」を知っている。技術的な制約や可能性について。でも「何をすべきか」は、社会全体で決める問題。
Phrona：事実と価値の区別、みたいな。
富良野：近いですね。AIが顔認識で何パーセントの精度を出せるか、それは専門家が答えられる。でも、その技術を公共空間の監視に使っていいかどうか、それは市民が決める問題。
Phrona：技術者に任せておくと、できることはやっていい、という発想になりがち？
富良野：意図的にそうなるわけじゃなくても、視野が技術的な最適化に偏る傾向はあるかもしれない。だから異なる視点を持った人が議論に加わる意味がある。
Phrona：トラック運転手の視点が、気候科学者には見えないことを照らす。
富良野：そういうことです。専門家の知識を否定するんじゃなくて、それを民主的な議論の中に位置づけ直す。
適応と学習のガバナンス
Phrona：AIって、ものすごいスピードで進化していますよね。去年の常識が今年は通用しない、みたいな。
富良野：それがガバナンスを難しくしている。法律を作って施行するまでに何年もかかるのに、技術は半年で様変わりする。
Phrona：ルールを作る頃には、もう現実が先に行っている。
富良野：だから論文は「適応的ガバナンス」を提案している。一度決めたら終わりじゃなくて、継続的に見直していく仕組み。
Phrona：市民参加も一回きりじゃなく、繰り返し行う？
富良野：そうですね。技術が変われば影響も変わる。だから市民の声を聞く場も、定期的に設ける必要がある。
Phrona：でもそれ、すごくコストがかかりません？
富良野：かかります。フランスの市民会議は予算400万ユーロ、日本円で6億円以上。それを毎年やるのは現実的じゃない。
Phrona：じゃあどうするんですか？
富良野：規模を小さくする、オンラインを活用する、特定のテーマに絞る。いろんな工夫が考えられる。完璧な解決策があるわけじゃないけれど。
Phrona：試行錯誤しながら、制度自体も進化させていく。
富良野：ガバナンスのガバナンス、みたいな話になってきますね。
民主主義は面倒くさい
Phrona：最後に一つ聞きたいんですけど、民主的な参加って、本当に必要なんでしょうか。
富良野：根本的な問いですね。
Phrona：効率だけ考えたら、専門家が決めた方が早いじゃないですか。市民を集めて、教育して、議論して。すごく時間がかかる。
富良野：それはその通り。でも、効率だけが価値じゃない。
Phrona：他に何があるんですか？
富良野：正当性。ルールに従う人が、そのルール作りに参加できること。それ自体に意味がある。
Phrona：自分たちで決めたルールなら、納得して従える。
富良野：それに、専門家だって間違える。多様な視点がないと、盲点に気づけない。気候政策で言えば、地方の農家の生活実感は、都市部のエリートにはわからない。
Phrona：AIで言えば、採用アルゴリズムに弾かれる求職者の気持ちは、開発者にはわからない。
富良野：そういうことです。民主主義は面倒くさい。時間もかかるし、意見もまとまりにくい。でもその面倒くささの中に、何か大事なものがある。
Phrona：効率を犠牲にしてでも守るべきもの。
富良野：AIが社会を変えていく時代だからこそ、その問いを真剣に考える必要があると思うんです。
ポイント整理
AIガバナンスの特殊性
AIは医療、雇用、司法など社会のあらゆる分野に影響を及ぼすため、従来の技術規制とは異なる包括的なアプローチが必要。専門家だけでなく、影響を受ける市民の参加が不可欠となっている。
熟議民主主義の可能性
フランスの気候市民会議は、くじ引き（ソーティション）で選ばれた150人の市民が、専門家のサポートを受けながら政策提言を行った。トラック運転手や農家など多様な背景を持つ市民が、複雑な政策課題について議論できることを示した。
実装の課題
マクロン大統領の「フィルターなし」という約束にもかかわらず、市民の提言の多くは最終的な法制化の過程で修正された。熟議の成果をどう政策に反映させるか、制度設計上の課題が残る。
マルチステークホルダー方式
ブラジルは公聴会やパブリックコメントを通じた参加型プロセスを採用。しかし自発的参加に依存するため、組織化された利害関係者の声が優位になりやすい構造的問題がある。
専門家と市民の相補性
専門家は「何ができるか」という技術的可能性を示し、市民は「何をすべきか」という価値判断を行う。両者は対立ではなく補完関係にあり、それぞれの役割を明確にした制度設計が重要。
適応的ガバナンス
AIの急速な進化に対応するため、一度決めたルールを継続的に見直す仕組みが必要。市民参加も一回限りではなく、技術の変化に応じて繰り返し行う設計が求められる。
民主主義の本質的価値
効率面では専門家主導の方が優れているが、ルールに従う人がルール作りに参加できるという正当性の観点から、民主的参加には固有の価値がある。
キーワード解説
【AIガバナンス】
人工知能の開発・導入・運用に関するルールや規制の枠組み。技術的側面だけでなく、倫理、法律、社会的影響を包括的に扱う
【熟議民主主義（Deliberative Democracy）】
市民が十分な情報を得た上で、理性的な議論を通じて合意形成を行う民主主義の形態
【参加型民主主義（Participatory Democracy）】
選挙による代表者選出だけでなく、市民が直接政策決定に関与する民主主義のあり方
【ソーティション（Sortition）】
くじ引きや抽選による代表者選出方式。古代アテネで用いられ、現代の市民会議でも採用されている
【市民会議（Citizens' Assembly）】
無作為抽出された市民が特定のテーマについて議論し、提言をまとめる熟議の場
【マルチステークホルダー方式】
政府、企業、市民社会、学術界など多様な関係者が参加して意思決定を行う手法
【テクノクラシー（Technocracy）】
専門的知識を持つ技術者や専門家が政策決定の中心を担う統治形態
【リスクベースアプローチ】
規制対象をリスクの程度に応じて分類し、リスクが高いものほど厳格な規制を適用する手法。EUのAI規制法でも採用
【適応的ガバナンス（Adaptive Governance）】
環境や状況の変化に応じて柔軟にルールを見直し、継続的に改善していく統治手法