チリツィ・マルワラ教授は国連大学の第7代学長であり、国連事務次長を務めている。人工知能(AI)の専門家であり、前職はヨハネスブルグ大学(南ア)の副学長である。マルワラ教授はケンブリッジ大学(英国)で博士号を、プレトリア大学(南アフリカ)で機械工学の修士号を、ケース・ウェスタン・リザーブ大学(米国)で機械工学の理学士号(優等位)を取得。
現在の世界情勢に安心感を抱く人はいないはずだ。紛争、気候変動、不平等といった現代の最大の諸問題は、2024年に驚異的にエスカレートし、世界中でまさに沸点に達した。
こうした激化する課題を克服するために、最新技術を駆使して迅速な解決策を模索する傾向がある。2024年には、人工知能がこうした動きのトップに躍り出た。
このテクノロジーを万能薬だと信奉する人が一部にいる。その域に達しているとはまだ言えないが、その進歩は目を見張るようなペースに達している。気候変動の緩和から食料安全保障、平和構築から教育に至るまで、あらゆる分野でAIは新たな希望として語られるようになっている。
しかし、このテクノロジーを人類の進歩と持続可能な開発のための有意義で効果的な触媒にするためには、バランスの取れた、共通の価値観に基づくAIのガバナンスが求められる。
昨年9月、世界の指導者たちはニューヨークの国連で会合を開き、「未来のための協定」を採択した。持続可能な開発、平和と安全保障、人権を柱とし、共通の人間性に根ざしたグローバルな進歩へのコミットメントを再確認する枠組みである。紛争の拡大と長期化に悩まされた一年において、この協定は、私たちが揺るぎない意志を持って、現在と将来の世代の幸福を目指さなければならないことを鮮明に思い出させてくれた。
協定の付属文書の一つである「グローバル・デジタル・コンパクト」は、すべての人にとってオープンで安全、そして人間中心のデジタル未来を推進することに焦点を当てた一連の原則や目標、行動を示している。特筆すべきは、コンパクトが普遍的人権に根ざしていること、そして、持続可能な開発目標の達成に重点を置いていることである。
人間中心の解決策を見出すために必要な地道な努力が、機転をきかせた即座の対応や技術的な解決策への要求に取って代わられることがあまりにも多い。しかし、国連は75年間にわたり、危機に直面した際の迅速な対応という要求と、持続性のある解決策を達成するための慎重な対応とのバランスをとることに努めてきた。これによって加盟国は、国連憲章の「基本的人権と人間の尊厳及び価値と男女及び大小各国の同権とに関する信念をあらためて確認」するという決意に沿い続けることができる。
グローバル・デジタル・コンパクトはまた、AIの国際的ガバナンスに関する初の普遍的合意でもある。国境を越えた協力の強化、利害関係者の関与、包摂的で責任ある持続可能なデジタル未来の推進を通じて、AIの可能性を実現しつつ、軍事的応用を含むリスクを管理するために、各国の足並みを揃えるものである。
しかし、AIガバナンスにおけるバランスの追求は、依然として課題である。2025年を見据え、コンパクトのコミットメントを実行に移し始めるにあたり、注力すべき3つの主要分野がある。
第一に、意思決定の速度の違いに対応するガバナンスを確保しなければならない。ノーベル経済学賞受賞者で、有名な書籍『ファスト&スロー(Thinking, Fast and Slow)』の著者である行動心理学者のダニエル・カーネマンは、システム1(より速く、本能的な思考)とシステム2(より遅く、体系的な思考)という2つの思考を概念化することで、このバランスを探求した。
例えば、医療の分野では、AIは緊急事態や一刻を争う外科手術の際に、迅速な分析によって医療画像の評価を支援する大きな可能性を秘めている。しかし、医療においては、医師と患者の関係性や、患者がどのように病気を経験し、治療に反応するかに基づいた、よりゆっくりとした主観的な判断も必要な場合がある。
AIが両方のシナリオで役立つためには、その開発は人間の洞察を受け入れ、システム1とシステム2の両方の思考を促進するものでなければならない。
第二に、AIガバナンスは、単に目先のニーズを「satisfice*」(達成するための必要最小限を追求)するだけではいけない。これでは、利害関係者は目の前の課題に対して単に「十分」なガバナンス・メカニズムに甘んじてしまうことになる。AIとその応用は非常に複雑で反復的であり、微妙な組み合わせの利害関係者とセクターが関与している。
(*「satisfy=満足させる」と「suffice=十分である」を合わせた言葉)
最低限の基準を満たすよりも遥かに野心的な戦略が必要とされる。AIガバナンスに取り組む際には、多国間協力で求められるような未来を見据えた徹底した努力と、信頼、協議、集団的意思決定、歩み寄り、そして連帯といった諸要素が必要となる。
アントニオ・グテーレス国連事務総長は私たちに、「多国間協力は国連の脈打つ心臓」だと述べている。短期的な目標のための必要最小限ではなく、もっと上を目指すよう勇気づけてくれる言葉となるはずだ。私たちはともに、共有する現在と、共通するより良い未来に焦点を当てたAIガバナンスを構築するために努力しなければならない。
第三に、AIガバナンスはグローバルな文脈とローカルな文脈のバランスをとらなければならない。規制が直面する大きな課題は、AIが多くの分野、国、地域、人口に影響を与えることである。人権、技術へのアクセス、公平な経済発展が極めて重要であるという点では、利害関係者は基本的に同意するかもしれないが、現実には、熾烈な市場競争、製品技術の占有、技術革新のペースよりも適応のペースが遅い法的枠組みといった環境の中でAIは進化している。
その結果、画一的なAIガバナンスを実現することは極めて困難である。国際的な協力を促進し、プライバシー侵害や経済の分断など、AIに関連する国境を越えたデータリスクを軽減するために、グローバルな規制を利用することはできる。また、各国の利害や文化的価値観を一致させるためには、地域ごとのガバナンスが不可欠となる。
グローバル・デジタル・コンパクトは、「科学、技術、イノベーションを地域のニーズや状況に適合させ、適切なものにする必要性」を示し、喚起している。また、「公共の利益のために人工知能を管理し、人工知能の応用が文化や言語の多様性を育み、国や地域社会の発展のために現地でのデータの生成を促進させること」へのコミットメントも示している。
コフィー・アナン元国連事務総長の言葉を借りれば、「テクノロジーに投資し、受け入れましょう。テクノロジーは進歩を可能にします。しかし、テクノロジーそれ自体では、あらゆる社会のためにテクノロジーを賢く効率的に利用するという政治的責任から私たちを解放することはないということを忘れてはなりません。」
したがって、最終的には、AIガバナンスの支点、つまりその均衡点は、世界人権宣言を中心とする国連の価値観でなければならない。グローバル・デジタル・コンパクトは、デジタル空間における人権と国際法へのコミットメントを通じて、ユーザーがテクノロジーの進歩から恩恵を受けつつ、濫用から保護されるよう、私たちをその道へと導いてくれる。
・・・
この記事は最初に The Japan Timesのウェブサイトに掲載されたものです。The Japan Timesウェブサイトに掲載された記事はこちらからご覧ください。