チリツィ・マルワラ教授は国連大学の第7代学長であり、国連事務次長を務めている。人工知能（AI）の専門家であり、前職はヨハネスブルグ大学（南ア）の副学長である。マルワラ教授はケンブリッジ大学（英国）で博士号を、プレトリア大学（南アフリカ）で機械工学の修士号を、ケース・ウェスタン・リザーブ大学（米国）で機械工学の理学士号（優等位）を取得。
今こそ女性のエンパワーメントのためにAIのガバナンスを
Photo: UN Women/Christopher Herwig, CC BY-NC-ND 2.0
昨年、国連女性の地位委員会（CSW）は世界中のステークホルダーを集めて会議を開催し、イノベーション、テクノロジー、デジタル教育の観点からジェンダー平等の進展を検証した。委員会が出した洞察力に満ちた多くの合意結論の一つとして、人工知能（AI）への期待と危険性に対する認識が挙げられる。
AIには、女性と女児が雇用、公共サービス、教育から恩恵を受ける方法を変える大きな潜在力があるが、女性がテクノロジーとテクノロジーを構想する役割に平等にアクセスできなければ、おそらくAIは既存の偏見、差別、不平等を永続させることになるだろう。
人工知能という言葉は1955年に作られたもので、決して新しいものではない。しかし、この数年でこうしたテクノロジーが日常語の最前線に躍り出てきた。モバイルアプリやカメラからキャリア形成のツール、自動車、自律型兵器に至るまで、AIに対する欲求は底知れず、AIへの不安も増幅しているように思われる。
この最先端技術に対する認識がこの世界的な転換点を迎える中、AIの及ぼす影響を私たちが制御する能力も、後戻りできない状況に近づきつつある。今こそ、AIによって平和と持続可能な開発が促進されるようにし、ジェンダー平等の達成や、すべての女性と女児のエンパワーメントのための世界的な取り組みにAIを同調させる機会なのだ。
この3月中旬にはCSWの第68回年次委員会がニューヨークで開催される予定である。今年の委員会では、貧困と、ジェンダーの視点からの制度や資金調達の強化方法というテーマに取り組むが、これらはジェンダー平等を実現するために不可欠な要素である。ただし、CSWの評価サイクルは5年ごとに行われるため、2023年のテクノロジー関連の推奨事項の進捗度を完全に評価するには、2028年までかかるかもしれない。
しかしながら、進歩のペースは速いため、AIの開発と利用を管理するために緊急のアクションを取らなければならない。CSWの第67回委員会のいくつかの合意結論にあるとおり、ジェンダー不平等を助長する脅威に対処するために今すぐ行動を起こすことができる重要な領域がいくつかある。
第一に、テクノロジーとAIの部門において女性がもっと代表されるようにしなければならない。
世界のテクノロジー関連の専門家のうち、女性が占める割合はわずか30％に過ぎない。AI分野ではその割合は22％にまで低下する。また、工学部卒業生のうち女性は30％未満、コンピュータサイエンスの卒業生は約40％だ。
女性が男性と対等な立場で第四次産業革命のテクノロジーを構想していかなければ、将来のデジタル経済やそれに影響を与えるAIは、過去の固定観念を基に構築される危険性がある。
女性の割合の低さを克服するためには、まず、STEM（科学、技術、工学、数学）の教育と訓練において、女性と女児に平等に機会を提供する必要がある。私たちの日常生活に影響を及ぼすテクノロジーを構想する上で、女性が男性と同等の知識やツールを持ち、意見を表明するためだ。
この面でうまくいっている例として「ジェンダー平等のためのテクノロジーとイノベーションに関する行動連合」がある。2021年に国連女性機関（UN Women）が開催した「平等を目指す全ての世代フォーラム」で設立されたこの連合は、テクノロジーとイノベーションの分野で働く女性の割合を2026年までに倍増させることを目標に掲げ、グローバルなパートナーシップを活用している。
2023年時点で、コミットメントの90％近くが達成されつつあり、科学技術分野全体ですでに数十の政策と数百のプログラムが実施され、デジタルリテラシーの研修はグローバル・ノースでもグローバル・サウスでも実施されている。
Photo: UN Women/Ryan Brown
しかし、女性には教育や訓練へのアクセスが不可欠である一方、テクノロジー部門に入ることを可能にするパイプや、雇用後にそこで働き続けるインセンティブも必要だ。そのためには、雇用主がインターンシップや業務上のネットワークを通じて女性の研修生や卒業生を指導し、繋がりを持つことに注力する必要がある。また、テクノロジー関連企業が男女同一賃金を貫き、確固としたセクシャルハラスメント防止策を実施し、インセンティブの中でもとりわけ柔軟な勤務形態によって家族を支援する必要もある。
第二に、AIテクノロジーの基盤となるデータに潜むジェンダーバイアスを排除することが不可欠だ。
こうしたデータはAIアルゴリズムのトレーニング（訓練）に用いられ、AIシステムはそのアルゴリズムに従って情報を処理する。このようなアルゴリズムは、テクノロジーが主導する私たちの日常生活で今や不可避のものとなっている。アルゴリズムの自動操作により、私たちの世界観を形成するニュースや情報が発信されることがますます多くなる。だが、的を絞った保護策がないために、ソーシャルメディアプラットフォームでのスティグマ（偏見）や、テクノロジーによって助長されるジェンダーに基づく暴力、不平等な雇用機会に至るまで、女性と女児に有害な影響が増している。
アルゴリズム上のバイアスを大きく二つに分類すると、回避可能なものと不可避なものがあるが、AIシステムにおけるジェンダーバイアスはほぼ回避できるものだ。しかし、回避するためには、多様性、透明性、説明責任を重視した協調的取り組みが必要である。
多様性は、AIシステムを設計する技術チームが女性に平等な役割を与え、女性の視点を優先し、AIの基礎データがジェンダーの多様性を担保した母集団を正確に表すようにしなければならないことを意味する。透明性を確保するためには、政策決定過程で内容を検証できるよう開かれたAIアルゴリズムが求められる。説明責任を果たすためには、エンドユーザーが使用するツールに残存するAIのジェンダーやその他のバイアスについて、定期的な監査を行い、エンドユーザーに知らせることが必要だ。
こうした方針が実践されれば、女性差別や女性蔑視、オンライン上の暴力に対する真の解決策を創り出すことができる。
その一例が、国連の「ジェンダー・ソーシャルメディア・モニタリング・ツール」という、AI技術を活用して女性や女児に対する有害なコンテンツやヘイトスピーチを100カ国語以上で検出するパイロットプロジェクトだ。これらのデータは、テクノロジーによって助長されるジェンダーに基づく暴力に対抗して、コミュニティーや政策立案者がアクションを起こす力となる。
最後に、私たちが協力し合ってAIを管理するためのセーフガードや監視の仕組みを作ることが不可欠であり、このプロセスの一環として、女性と女児に的を絞った恩恵があるようにしなければならない。
2023年10月、アントニオ・グテーレス国連事務総長は、AIのガバナンスに向けたマルチステークホルダー間の協働を主導するため、「人工知能に関するハイレベル諮問機関」を設立した。この機関は、学界、テクノロジー部門、政府、企業、市民社会を代表する、ジェンダーバランスの取れた地理的に多様なグループである。
この諮問機関は、国連事務総長の「デジタル協力のためのロードマップ」にとって極めて重要で、AIのガバナンスに関する国際協力を支援するため、AIのリスクと課題をグローバルかつ包摂的に評価することを任務としている。私が学長を務める国連大学からは、専門的な研究者であるエレノア・フルニエ＝トムズが諮問機関の研究リーダーに任命された。
ジェンダーは、諮問機関が取り組んでいる主要な分野横断的課題であり、最近、「人類のためのAIガバナンス」という中間報告書が発表された。この報告書は、AIのグローバルなガバナンス体制の原則と機能に焦点を当てており、諮問機関が世界中のAIおよびテクノロジー関連のステークホルダーと本年行う協議の際の枠組みとなる。
諮問機関の中核理念である「包摂性」に従って、AI問題に関心を持つ人なら誰でも、中間報告書に対する意見を提出することができる。「すべての人々に開かれた、自由かつ安全なデジタルの未来に対する共通原理の概要を示す」グローバル・デジタル・コンパクトが本年、策定されるが、中間報告書に寄せられた意見は、その策定に役立つ可能性がある。
昨今めまぐるしいペースで進むAI開発と、それがもたらす興奮と懸念とが交錯する状況でも、優れたガバナンスに向けた取り組みが妨げられるわけではない。こうしたテクノロジーが多様性、人権、平等を守るように確実に構築していく時間はまだある。
かつて英国のコンピュータ科学者、カレン・スパーク・ジョーンズが述べたとおり「コンピューティングは男性だけに任せておくにはあまりにも重要なのだ」。これはAIにも当てはまることだと誰もが同意するのではないだろうか。今こそ、すべての女性と女児のインクルージョン（包摂）とエンパワーメントのために、AIテクノロジーを管理すべき時なのだ。
・・・
この記事は最初にThe Japan Timesに英文で掲載されたものです。The Japan Timesウェブサイトに掲載された記事はこちらからご覧ください。