GAFAMは国家と並ぶ新たな教会権力、「心の統治」を奪われる時代に
憲法学者・山本龍彦教授に聞く（1）

　近年、GAFAM（グーグル、アップル、フェイスブック＝現・メタ、アマゾン、マイクロソフト）などに代表される巨大なデジタルプラットフォーム（以下、DPF）が、社会生活の基盤として国家と同等の権力を備えつつあります。中世ヨーロッパにおいては、国家に対峙する権力として教会があり、そのバランスが模索されてきましたが、DPFは現代における「新たな教会権力」とも言えます。国家とDPFはどうあるべきか。またDPFが濫用され、人々の生活が脅かされる恐れはないのか。プラットフォーム規制に詳しい憲法学の山本龍彦教授に前後編の2回に分けて聞きました。（聞き手：鈴木英介）

――DPFは国家に対抗できるほどの力があるのでしょうか。

　例えば、コロナ禍に導入された接触確認アプリ「COCOA」は、アップルやグーグルのAPI（アプリケーションプログラミングインターフェース）を使って開発された。アプリとスマートフォンOS（オペレーティングシステム）を連動させる上で、両社のAPIを使うことが必要だと判断したためだが、結果として日本政府は自国の感染症対策のシステムを構築するに当たって、両社が提示する利用条件に従わざるを得なくなった。公衆衛生という国家の主権にかかわる権限をDPFが制限した事例と言える。

　海外のケースでは、2020年末にオーストラリア政府がDPFに対して既存メディアのニュース記事の適正使用対価を払うよう求める法案を用意したが、フェイスブックはその対抗措置として一部のサービスをオーストラリアで停止するという強硬措置に出た。それにより、法案がDPF側に大きく譲歩する内容になってしまったという事例もある。また、ウクライナ戦争では、メタやユーチューブなどのDPFがロシアのプロパガンダを遮断したり、逆にウクライナのゼレンスキー大統領側には協力したり、DPFが戦局を大きく左右し得る存在となっている。

　DPFの力は経済面からも説明できる。2021年9月時点でGAFAM5社の時価総額は約10兆4000億ドルだった。一方、2021年の日本のGDPは約5兆3000億ドルだった。足元ではGAFAMの株価は下降基調だが、日本を優にしのぐ経済力をもっているという言い方もできる。

「心の統治」をアルゴリズムに奪われる時代

――山本教授は、主権国家とDPFとの関係を中世ヨーロッパにおける国家と教会の関係になぞらえていますが、その意味を教えてください。

　中世ヨーロッパで最も重要な政治学のテーマは、国家権力と教会権力という二つの強大な権力の相克をどう調停するかだった。人間として生きる最低限度の条件は、平和と安全だ。それを形成するに当たり、国家と教会という二つの権力がどのようなバランスで対峙すべきかということが中世では長く考えられてきた。このことは、主権概念や、国家からの個人の自由を取り扱う憲法学の見地からも重要だ。

　今、デジタル企業の台頭に伴って、この中世的課題がぶり返されている。後でも触れるが、近代主権国家体制は、教会を私的領域へと追いやり、権力を国家に一元化した。だが、今度はDPFが「もう一つの権力」として台頭してきている。国家とDPFという「二つの権力」をどう関係づけていくのかは、デジタル時代の憲法学の新たなテーマと言える。
　
　教会とDPFは共通性も多い。例えば、「社会的なコミュニケーション基盤をつくる」という点だ。その裏返しとして、教会から破門されると、個人は社会生活を送れなくなった。これは、DPFの「アカウント停止」に通じる。DPFから追い出されると、社会交流も経済活動もできなくなる。

　税の考え方も似ている。教会には教区の農民から収穫物の1割を徴収する「10分の1課税」があった。DPFにも独自の「課税制度」がある。例えばアップルは、アップストアでの決済システムを使って商品を販売した場合、その売り上げについて「アップル税」と呼ばれる最大30％の手数料を取る。またDPFのサービスを使うときに個人データを提供するのも一種の「納税」と言える。
　
　さらに、教会もDPFも、人間の心理や認知に働きかけ、人間の内面を支配しようとする点で共通性をもつ。宗教が心を「統治」するものであることはイメージしやすいだろう。だがDPFも、アテンション・エコノミー（情報の質よりも人々の関心や注目を得ることに経済的価値を見出す考え）と呼ばれるビジネス・モデルの下で、巧妙なアルゴリズムを構築し、ユーザーのアテション（エンゲージメント）を得るために心理的な働きかけを行っている。

　それにより、フィルターバブル（一方向の情報に囲まれること）やエコーチェンバー（閉鎖的環境で同質の声が集まり思想が過激化すること）といった現象が生まれ、激しい誹謗中傷や政治的な分断が引き起こされている。近年は「ChatGPT」のような対話型生成系AIも加速度的に進展しており、内面の操作可能性はさらに高まっている。

　DPFがAIを駆使して人間の心を押さえることは、国家権力からすると非常に厄介だ。国家が物理的な「強制力」を行使して統治をしようとしても、心まで変えるのは難しい。かつて世俗権力が教会権力に手こずったのは、教会が人間の心を押さえていたからだった。そこで近代国家は、内面領域は個人の私的問題と捉え、宗教を個人の選択の問題とした。これが例えば憲法の「思想・良心の自由」や「政教分離」につながっている。

　このように近代以降、心はきわめて個人的・私的な領域とされてきたが、今は再び他者によって「統治」されはじめている。本人が自己決定したと思っていても、実際にはAIが認知過程にまで入り込んでいて、意思決定を操作されているのかもしれない。かつて教会が統治していた心の内面領域が、近代の一時期は個人の私的領域となったが、今はDPFによって再び統治されるようになってきている。

欧州と中国で異なる国家とDPFの関係性

――主権との関係で、欧州はDPFの台頭をどう捉えているのですか。

　警戒感を高めている。欧州は民主主義によって基礎づけられる「国民国家」を強く信じる傾向にある。国家＝国民主権に対してポジティブな意識をもっているのだ。そのため欧州では、国家がDPFの影響を排除して主権を維持しようと試みている。その対応としてEUは、GDPR（一般データ保護規則）、DSA（デジタルサービス法）、DMA（デジタル市場法）など、DPFを規律する立法を行った。これは「主権はあくまでも国民国家がもつべきだ。主権を脅かすな」というDPFへのメッセージとも言える。
　
　こうした背景には、DPFの「法」、つまりアルゴリズムが、国家の法よりも強い影響力をもち始めたことへの焦りがある。かつて米国の憲法学者ローレンス・レッシグは、「デジタル社会では、国家法よりもDPFなどがつくる『コード』（アルゴリズム、AI）がわれわれの行動を制御するようになる」と予言したが、それが的中しつつある。

　国家であれば、法律をつくるときは憲法上必要な手続きを踏む必要がある。それにより民主的な正統性が確保される。また、もしその法律が憲法に反していれば、裁判所により違憲審査権が行使され、無効とされる。他方、DPFにはそうした民主的なガバナンスの仕組みが備わっておらず、DPFの統治者の意のままにコードを組めるという側面がある。実業家イーロン・マスクのツイッター買収を巡る一連の騒動は、DPFが専制君主によって統治されると、権威主義国家よりも権威的に「法」が設定される可能性があるということを示した。

――権威主義国家である中国は、欧州とはDPFの統治モデルが違うのでしょうか。

　DPFを政治領域から排除しようとする欧州と異なり、中国のDPF統治の在り方は、中世の東ローマ帝国（ビザンチン）に見られたような、国家と教会が融合したモデル（皇帝教皇主義）に近い。東ローマ帝国では、皇帝が教会（東方教会）の統治者ともされ、教会トップの総主教は皇帝の支配下に置かれた。

　習近平政権は、BATH（バイドゥ、アリババ、テンセント、ファーウェイ）と呼ばれる中国産DPFを間接統治しているようにも見える。「国家情報法」や「サイバーセキュリティー法」により、国家はDPFに情報活動への協力を義務付けたり、個人情報の提供を要請できたりする。

　ただ中国においてもDPFの権力は強大だ。本気になれば、SNSで共産党批判の言説を一気に拡散させて共産党をつぶせるかもしれない。その意味では、アリババ創業者のジャック・マーに与えたプレッシャーのように、政府によるDPFへの締め付けは、その焦りの裏返しのようにも見える。

――安全保障のテーマとして、直接的な武力を用いずサイバー領域などで戦う「認知戦」という概念があります。先ほども「対話型生成系AI（以下、対話型AI）」と呼ばれる高度なAIの話題がありましたが、中国のDPFが対話型AIを開発し、中国寄りのアルゴリズムを組むなどして、認知戦に用いるリスクはありますか。

　中国が対話型AIのアルゴリズムに介入する可能性はゼロではない。中国産の対話型AIについては、そうした介入は比較的容易だろう。バイアスのかかった対話型AIをつくって認知過程を歪める方が、検閲よりも効果的に思想統制できる。

　一方で、他国の対話型AIに影響を与えることも可能だ。例えば、フェイクニュースを組織的に拡散したり、ボット（自動プログラム）でSNSに大量の投稿を行ったりすることで、AIが学習するデータにノイズを入れ込み、偏向させることができるからだ。そうすると、AIの回答が中国寄りの考えを反映したものになる可能性がある。このように、学習データに影響を与えたり、アルゴリズムにバイアスを組み込んだりすることで、中国以外の国を混乱におとしめることも不可能ではない。認知戦への活用も考えられるだろう。

（第2回に続く）

山本 龍彦
慶應義塾大学法科大学院　教授
慶應義塾大学グローバルリサーチインスティテュート（KGRI）副所長。専門は憲法学・情報法学。総務省等のAI・個人データ関連有識者会議の委員を歴任。ヤフー「プラットフォームサービスの運営の在り方検討会」座長。主な編著書に『AIと憲法』（日本経済新聞出版）、『デジタル空間とどう向き合うか』（日経BP）など。