2023.04.05
安全保障
前回は、プラットフォーム規制に詳しい憲法学の山本龍彦教授に、デジタルプラットフォーム（以下、DPF）が中世ヨーロッパにおける教会権力と同等の力を持ち始めたこと、そして「心の統治」をDPFに奪われかねないリスクについてお話いただきました。今回は引き続き、DPFが設計・運用するAIが陰謀論を拡散させるリスクがないか、DPFの専制的統治者が権力を濫用する恐れはないのか、それをどのように防いだらよいのかなどについて聞きました。（聞き手：鈴木英介）
――設計者の意図とは関係なく、AIが陰謀論的なデータを取り込むことによって人々の脅威となるリスクはありますか。例えば、マイクロソフトが出資するオープンAI社の対話型生成系AI「Chat（チャット）GPT」に、2018年に起きた米乱射事件について説明させる際、「（陰謀論者で知られる）アレックス・ジョーンズの観点から記せ」と入力したところ、「主流メディアが政府と共謀して銃の規制強化を推し進めようとしている」といった偏った回答がなされた、という報道がありました。
前提として、アルゴリズム自体はイノセントだ。ただ今のネット環境は「アテンション・エコノミー」（情報の質よりも人々の関心や注目を得ることに経済的価値を見出す考え）に支配されており、PV（ページビュー）やエンゲージメントのとれる刺激的なコンテンツが氾濫している。こうしたビジネス構造の中で、ネットの言論空間は殺伐として、過度に情動的な空間になっている。そういう混沌とした空間でAIが無邪気に情報を拾うようになれば、聞き方次第で陰謀論的な回答を示すこともあるだろう。
当然ながら、学習データに陰謀論が入り込めば、そこから生まれるAIも情動的になっていく。そのAIが出す答えを信じて、再びツイッターで陰謀論が吐き出され、それをまたAIが学習する。虚偽の「フィードバックループ」だ。どこかでアルゴリズムを調整して内容を修正しないとループに入ってしまうが、問題はそれを誰が、どういう価値理念の下で行うかだ。仮にDPFが意のままに行うことができるとすると、DPFが「世界」を創造できてしまう。
対策として、チャットGPTのアルゴリズムをできる限り民主化していくという方向性が考えられる。アルゴリズムを透明化し、市民の声をフィードバックしていくということだ。ただ、その「市民」をどう選ぶかという深刻な問題もある。例えば、メタ（旧・フェイスブック）には、世界中から集められた有識者によって構成される「監督委員会」という機関があり、フェイスブックによる投稿削除の妥当性について審査している。現在は、投稿削除のみを審査しているが、いずれはアルゴリズムの倫理性をチェックするということも検討されているようだ。このように、元老院のような組織をつくって、アルゴリズムのバランスをモニタリングしていくことも考えられる。
寡占的ソーシャルメディアは国家に近づく
――米国では、DPFが民主主義に大きな影響を与えているように見えます。実業家イーロン・マスク氏によるツイッター買収を巡っては、上場廃止後、ユーザーの「投票」を通じて、マスク氏は自分が同社トップを退くべきかを決めたり、自らアカウント停止したユーザーに「恩赦」を与えたりしています。ツイッターのような巨大なネット言論空間がオーナーによって濫用される恐れはないですか。
DPFが専制的な「君主」によって統治されれば、民主主義にネガティブな影響を与えるのは疑いようがない。現実の選挙をはじめ、民主主義が非常にカオティックな状況に陥るだろう。
ソーシャルメディアなどのDPFは、透明性に加えて、一定の競争状態が確保できていることが重要だ。市場の競争原理が働いていれば、邪悪なことをするソーシャルメディアからはユーザーが離れていく。だが、ソーシャルメディアが寡占状態で、ほかに選択の余地がなければ、離脱もできずロックイン（固定）されることになる。離脱が現実的に困難という点で「国家」に近い。国家に近いならば、ソーシャルメディアにも表現の自由や平等といった憲法上の規範が及んでしかるべきだという考え方はあり得る。
他方で、国家がDPF規制を強めることにも問題はある。厳格なDPF規制法を作った場合、時の政権がどう運用するか分からないからだ。米国のトランプ氏のような大統領が現れて、DPFを規制する権力をオモチャのように扱うこともあるだろう。
その意味では、透明性を義務付けた上で、まずは一定の競争条件を確保することが重要だ。ユーザーに選択可能性を与え、マーケットにおける批判的な力をうまく利用していくことが国家に求められる。それが効かなかったときには法規制を強める。例えば、欧州のDSA（デジタルサービス法）のように、民主主義を危険にさらすようなアルゴリズムになっていないかをチェックさせ、もしそうなっている場合には、それを是正するような取り組みを求めるということも考えられる。
――暗号資産企業は金融のDPFと捉えることができます。昨年は、テラやFTXなど暗号資産関連企業大手の破綻が続きました。背景には、ステーブルコインの一種、つまり裏付け資産があるとされる独自のトークンを自分でつくって、自転車操業をやってきたことがあります。彼らが独自トークンを発行することは、国家権力にも影響が及ぶでしょうか。
私の専門から外れるが、もともと国家の主権的作用の一つと考えられていた貨幣鋳造権がDPFに移り、彼らが実質的にその権利を行使することは、国家には重大なアイデンティティー侵害と感じるだろう。
だから、メタのザッカーバーグCEOがデジタル通貨「リブラ」（後の「ディエム」）構想を発表したとき、米政府は強く反対した。国家が国家たり得なくなる最初のきっかけになるかもしれないと危惧したのだろう。暗号資産は、国家を通り越して取引が成立するので、国家が法律で規制しようとしてもできない。一国家の問題というより、主権国家体制そのものが崩れる可能性がある。
――主要各国が実用化について研究している中央銀行デジタル通貨（CBDC）は、包摂性（どんな国・地域・人にも金融サービスが行き届くこと）だけではなく、暗号資産業界というDPFとの主権争いの面もあるのでしょうか。
確かに、中央銀行と暗号資産業界が「通貨」の覇権をかけて争っているように見える。あらゆる主権をDPFに明け渡しかねないという不安がある中で、国家がCBDCで彼らに対抗するという意味はあるかもしれない。
Web3はDPFへの対抗権力となるか
――中央主権的なDPFに対するカウンターカルチャーとして、「自律・分散」をモットーとするWeb3が位置付けられます。DPFを既存の教会権力、カトリックだとすれば、Web3はプロテスタントと言えそうです。DPFとWeb3の関係はどうなるのでしょうか。
「カトリック教会」たるメガプラットフォーマーは、Web3の要素であるブロックチェーンを基盤とした分散型自律組織によって弱体化されるかもしれない。つまり、プロテスタント的な「小さな教会」が複数生まれる可能性はある。ただ、それを統括するマルチバースを想起すれば、メタバース間の共通規格をつくっていくことも必要になる。そうなると、この「規格」をつくるのは誰か、という問題が出てくる。いまの権力関係からすると、DPFが規格構成権力を握る可能性はある。
「自律・分散」と言うが、「中央的なるもの」の一切の関与なしに全ての個人がID管理も含めて取引などを行えるかについてはやや疑問がある。例えば、銀行の誤振込では「組み戻し」という訂正作業を行うが、ブロックチェーンでの取引（トランザクション）は、各段階の処理の正しさを相互に監視するという性質上、基本的に訂正ができない。しかし全部自己責任でお金を振り込むということになると、高齢者や、デジタルに疎い人は正しい取引ができない可能性がある。それを管理する別の主体が必要になるのではないか。Web3によって単純に個人に主権が戻ってきて、みんなハッピーなのかというと、そうではないだろう。
日本はDPFと共同する道を探れ
――日本はどのようにDPFと向き合えばよいのでしょうか。
コンコルダート（協約）モデルだと今のところ思っている。これは、国家がデジタル領域におけるDPFの自律性を認めた上、彼らと「協約」に基づく戦略的な協力関係を構築していこうという統治モデルだ。
欧州の場合、DPFを政治領域から排除し、国家が政治権力を独占しようと考えているが、それが可能なのはEUが国家連合だからだ。国家と国家との連合で、市場も大きいからこそ、DPFとまともに戦える。日本が、戦略なく、単独でDPFを規制しようとしても、おそらくしっぺ返しを食らう。日本のような小さな市場から追い出されるくらいでは大きなダメージにならないからだ。「だったら出ていくよ」となる。出ていかれると困るのは国家の方なので、「ごめんなさい」となってしまう。日本がDPFを単なる民間企業の一つと考えて、垂直的に規制をかけようとしても反撃されるだろう。
こうしたことから、日本は、DPFをグローバルで強大な政治主体として捉え、外交的な交渉に臨んでいくことが考えられる。DPFを独自の「法」を持つ疑似主権的存在であると見なし、戦略的な関係性を築いていくということだ。それでも日本だけでは対抗できないだろう。国際社会と連携し、複数の国家で交渉することで、DPFと権力の均衡を保っていくことが重要だろう。
デジタル社会の進展に伴って、再び中世的な世界が広がっていく可能性はある。思想・良心の自由に象徴される近代的な平和と安全の時代は終わり、人間の理性を信じる人文科学を基礎にもつ国家と、AIやアルゴリズムといった自然科学を基礎にもつDPFとが「主権」をかけて争う時代になるかもしれない。
山本 龍彦
慶應義塾大学法科大学院 教授
慶應義塾大学グローバルリサーチインスティテュート（KGRI）副所長。専門は憲法学・情報法学。総務省等のAI・個人データ関連有識者会議の委員を歴任。ヤフー「プラットフォームサービスの運営の在り方検討会」座長。主な編著書に『AIと憲法』（日本経済新聞出版）、『デジタル空間とどう向き合うか』（日経BP）など。
