人間であることの意味、自動運転の実現によってUberドライバーが失業するという社会的影響、政治におけるAI（人工知能）プロパガンダ、人類を根絶するロボットや超知能（人間の知能を超えたもの）の台頭など、AIが人間の未来を決定する要因となり、それは今後も変わらないであろうことに異論を唱える者はいないだろう。一方で、これら多くのAIの影響は、世界秩序にとって何を意味するのだろうか？AIの課題を読み解くには、それぞれの課題を対処可能なサイズまで分解する必要がある。そこには3つの課題があり、その一つでも対処に失敗すれば、壊滅的な結果となるだろう。

「シンギュラリティ（技術的特異点）」と実存主義

人工超知能の実現は少なくとも数十年先の話であるものの、多くのAI研究者にとって最大の関心事は「シンギュラリティ（技術的特異点）」である。シンギュラリティとは、テクノロジーの飛躍的かつ加速的な進歩が人間の知能を超越し、人間によるコントロールを逃れるAIを生み出すという概念である。このシンギュラリティによって生まれた超知能が、意図的かに関わらず、人類を滅亡させる、あるいは、多量の人体実験をもたらすとの懸念がある。

ヘンリー・キッシンジャー 氏は、物理的にだけでなく、人間の概念にも破滅的な結果が及ぶ可能性があるとしている。キッシンジャー氏にとって最も重要な問いは、「人間の説明力がAIに追い越され、人間が住む世界を意味ある言葉で解釈できなくなってしまったら、人間の意識はどうなってしまうのか？」という問いだ。進歩のスピードを考えると、今世紀中にシンギュラリティが起きてもおかしくない。

シンギュラリティが見過ごせない課題であるのは間違いない。しかし、いつ、どのようにして起きるのか、または本当に起きるのかという問いの解を誰も持ち合わせてない。それを考慮すると、現時点で言える、またはそれに向けた備えに関する限界は明らかに存在する。例えば、「死」のテクノロジーはすでに生み出されている。人類を全滅させうる核兵器だ。核兵器は、シンギュラリティを管理または阻止する世界的取り組みの、不完全だが便利な比喩である。核戦争を避けるために必要だった慎重な管理と運は、シンギュラリティにも必要となるだろう。核拡散防止は簡単ではない。多くの成功を収めたとはいえ、北朝鮮の核兵器を阻止するには至らなかった。

AIプログラムは安全保障上不可欠であるという位置づけを止めるよう、ロシア、中国、アメリカのリーダーに説得できるだろうか？実際、人間が「人間らしさ」を理解することに対するキッシンジャー氏の懸念よりも厄介な問題だ。人間の自己中心性は驚くほど強固だ。「人間は無毛の猿に過ぎない」と言うダーウィンと折り合いをつけれるなら、人間はこの新たな展開の中でも生き残れる。

大切なのは、核兵器がそうであるように、人間が最善を尽くしてシンギュラリティに関する問題を国際秩序の枠組みで管理することだ。シンギュラリティは、国際的な熟考と議論が求められ、人類にとって質的に新たなチャレンジとなる可能性がある。

社会セクター全般の生産手段の変化

2つ目の課題は、AIやビッグデータにより、多くの経済および社会セクターの生産手段が急激に変化し、生じる課題だ。勝者と敗者、そして新たな手法が生まれ、その結果、世界中の社会に混乱をきたす。1940年代以降広く使われている「第4次産業革命」という言葉にちなみ、この変革を「最新の産業革命」と呼んでも差し支えないだろう。

ここで3つのセクターを例として取り上げたい。最初は、既に古典的な例となっている「輸送」だ。Uberが自動運転車の運用を始めると、失業したドライバーはどこで働くのだろうか？次は「軍事」だ。軍事面の革命に貢献する見込みの高いドローンやAIは、均衡を破り、国際的な協調路線を妨害し、かつてないような新たな軍拡競争を扇動する可能性がある。最後は、アメリカのGDPの約18%を占める巨大なセクターで、AIが診断や医療提供の手法に変革をもたらすと約束されている「医療」だ。当然ながら、この3つのセクターはAIが破壊力を行使する産業のほんの一部であり、基本的にどの社会セクターについても指摘は可能だ。

だがこれが、産業革命や1990年代から2000年代のインターネットの台頭に貢献した技術的影響を超えるものだと示唆するものは、（少なくともこれまでは）あまりない。解雇されたUberのドライバーと、Amazonの台頭に伴いインターネットに職を奪われた小売業従事者の状況に大差はない。飛行機、蒸気船、機関銃、戦車は、いずれも戦争行為を革命的に変えた。インターネットも同様で、今やサイバー空間は、陸、海、空、宇宙と肩を並べる軍事領域となっている。医療を変革する潜在性には期待するが、良くも悪くも、強力な規制や制度上の縛りが、医療セクターを超大型タンカーのようにすばやく動かす。

産業化による社会的混乱を乗り切るために福祉国家が築かれ、適応してきたように、こうした変化とそれに伴う混乱には管理が必要となるだろう。それには、セクター別のプランニングが必要だ。多くは、仕事が時代遅れとなってしまった労働者を対象とした福祉政策や再教育制度等、政治的には困難であるものの比較的わかりやすい手段に依存するだろう。

20世紀では、社会的混乱や新しい軍事技術への対応の失敗が世界秩序を乱すと示されてきた。もうひとつの極めて重要な要素は、社会的組織という競合システムである。

世界秩序における競争社会システム

AIは冷戦終結後初めて、自由民主主義の有力なライバルの誕生を可能にしつつある。それは、デジタル権威主義だ。具体的に言えば、世界秩序における競争にAIが与える最大のインパクトは、新たな社会的組織を可能にするインパクトだろう。それは、高度な産業構造を持つ巨大国家に、国民に豊さを提供すると同時に、厳重な管理を維持するのにふさわしい道筋を提供する。

AI関連の技術はこうしたシステムを実現する。今、そのシステムの構築を進めているのが中国であり、既に自由民主主義とのグローバルな競争の中で、輸出や模倣が行われている。

抑圧的な政府は貧しさから抜け出せず、民主的な政府は経済的な恩恵を受けるという、広く浸透した二面性へのくさびにAIは一役買っている。中国は、同じ考えを持ついくつかの国々と共に、世界秩序の限界を試しつつ、国際機関に今後数十年で自らの役割を見直すよう迫っている。

検閲と監視の新興テクノロジーを配備するという中国の判断は、大半の人々の予想に反して、国内経済を停滞させていない。むしろ、スリランカに対して独裁主義政権を支援すると見られる検閲強化技術を提供し、利益すら得ている。さらに、エチオピア、イラン、ロシア、ザンビア、ジンバブエには監視システムを供給している。アフリカにおける新たな関係構築には、アメリカや世界秩序にとって戦略的に重要な地域において上述のようなデジタル技術の輸出を進める中国の取り組みが含まれる。

こうした広範囲にわたる統合的な監視は、国連のような機関の人権保護の取り組みを複雑にすると考えられる。スマートフォンやCCTVなどのユビキタス技術を取り巻く膨大な監視装置は、巨大な統合データベースと抱き合わされており、本質的にデュアルユース（軍事用・民生用双方に用いる技術）である。デュアルユースシステムのあいまいさは、もっともらしい否認をしやすくする。中国は、ウイグル族など少数派イスラム教徒の収容に関する国連レポートに対し、報告されている内容は事実と異なると主張し、人権保護の組織的メカニズムなしに国連を置き去り状態にしながら、この対応は「新疆（しんきょう）における永続的な平和と安全の維持」であるとしている。

私たちに何かできるだろうか？中国のように極めて有能で自信に満ちた国は、わずかな外部の影響がその軌道を変える可能性がある。結果として、道徳的問題の表明や、国連を含む国際機関が相反する社会政治秩序における平和と安全の維持に果たす役割の表明を妨げてはならない。

代りに、私たちは、デジタル権威主義と自由民主主義の国家間の対立激化、とくに米中の対立激化、そして世界各地に及ぶシステムへの影響力を巡る競争を乗り切る手法を、何とかして習得しなければならない。国内的には、既成の自由民主主義国家は、例えば、技術寡占だけでなく、国家による自国民に関する多種多様な統合データの大量使用も制限しなければならない。

3つの課題に取り組むグローバル戦略へ

3つの課題それぞれに、国連、国、地域政府、企業、その他利害関係者のレベルに応じた思考（と政策）が求められる。グローバル戦略には、すべての課題への対処が不可欠だ。

デジタル権威主義が民主主義的制度を脅かしつつある時代において国連がその意義を堅持したいのであれば、まずはこのグローバル戦略における自身の役割を決めるべきだ。核兵器不拡散の議論の中で果してきた役割のように、国連は、AIがあらゆる場面で巧みに採用され、それに伴う社会的混乱の舵取りができるはずだ。

次に国連がすべきは、労働の本質や社会の生産手段にAIが与える影響に関する国内・国際的な対話の支援、奨励である。この取り組みは、さまざまな社会・産業分野を横断し、対立する利益や価値のバランスを図るものでなければならない。この領域に貢献するのが国際労働機関（ILO）である。

最後に国連は、強固な世界秩序における変化を管理し、民主的社会の空間を保証し、基本的人権を保護するような方法で、新興技術やコンバージングテクノロジ―によって実現される抑圧的な政権の台頭に対処しなければならない。

•••

AIに起因する国際的な政策課題の探究を目的として研究者、政策立案者、企業およびオピニオンリーダーのために設立された包括的プラットフォーム、「AIとグローバルガバナンス」に本記事を寄稿したのは、ニコラス・ライト博士である。なお、記事内で述べられた意見は各寄稿者の意見であり、必ずしも国連大学の意見を反映するものではない。