AIとグローバルガバナンス: つながりを強化する

2018年11月20日 デイビット・ダンクス カーネギーメロン大学

AI(人工知能)とロボット技術は、目に見える形と目に見えない形で、良くも悪くも、私たちの生活に急速に影響を与え始めている。こうした技術をよりポジティブな観点で構築することを目指し、その影響力を理解するため多くの分析が存在している。

例えば、「製造現場におけるロボットの増加により、人間の雇用はどの程度失われるのか」、「AI診断システムの活用によって、特に医療設備の乏しい地域でどのような改善を図れるのか」、「どのようなインターフェースを使えば、自律型テクノロジー(機械が自ら手順や判断基準を見つけ出し実行するシステム)は、人間の職業または個人の目標を学習できるのか。」

これらは明らかに重要な疑問だが、「AIとロボット技術は、人間同士の関係をどのように変化させるか」という肝心な問いを見落としている。人間は、家族、職場、地域社会、一般社会を構成する人々との関係を重要視している。AIは、個々人に影響を及ぼすだけでなく、生活における人と人との関係性の強化・拡大、逆に束縛・破壊する可能性も持ち合わせている。

その実例や仮説を見つけることは簡単だ。例えば、近年、ソーシャルネットワーク上の自動bot(インターネット上の操作を自動で実行するプログラム)や半自律型bot(インターネット上の操作を手動と自律型を混在させて実行するプログラム)の普及により、社会や政治に関する議論の規範が損なわれてきた現状がある。一方で、支援という側面に着目すると、ロボットが日常業務を担当することにより、人間が重要度の高い課題に集中し、チームワークを効果的に発揮する能力を向上できるといった事例がある。このようにAIの影響力は、個々人にのみ及ぶのではなく、人間関係にも及ぼしかねないというのが注目すべき点だ。

次に、近い将来、診断や治療方針の判断にAIの活用を求められる医師が出てくるという極めて現実的な可能性について検討する。AIが多くの医師よりも明らかに優れているとすれば、医師独自の臨床判断ではなく、より正確な意思決定が可能なAIを利用するよう様々な方面から自然に圧力がかかるようになるだろう(実際、診断におけるAIの優位性を証明する注目すべき一部の実例を受け、こうした要望が高まっている)。しかし、そうなると医者は、患者とAI技術をつなぐ情報の仲介人に陥るリスクがある。かかりつけの医師が単なる情報伝達のパイプ役となれば、その医師を信頼する理由はほぼなくなるだろう。医療用AIは、個人の(短期的な)健康状態を改善する一方で、医療における患者と医師の基本的な人間関係の信頼を著しく損ねる可能性がある。診断精度は向上したとしても、その代償は大きいかもしれない。

よりポジティブな例として、高齢の親を介護する在宅医療ロボットについて考えてみる。親の介護という回避できない負担の役割移行は、家族の絆を脅かし、損なう可能性がある。しかし、ロボットが介護作業の多くを代行できれば、親子は深く有意義な関係を(再)構築できるかもしれない。在宅医療ロボットは、人間関係を脅かすのではなく、すでに構築されている関係を維持したり、損なわれた関係を再構築したりするのに役立つと言えよう。

人間は社会的な存在である。人間の利益やその利益を増やすための能力は、他者との関係性と深く関わっている。同様に、基本的人権の多くは、他者との交流・つながり・関与に深く依存し、部分的には他者との関係によって構成されている。つまり、AIが人間関係を脅かすとすれば、すなわち基本的人権を脅かすということである。たとえAI技術が個人の能力を向上させるとしても、この結論は当てはまる。 AI技術の倫理、社会における価値は、単に自分とAIとの関わりだけで決まらない。AIがどのように人間同士の関係を支援・強化し、一方で侵害・断絶するのか、その役割も重要である。

こうした考察は興味深い一方で、AIと国連が直接どう関わるのか、その理由を疑問に思うのは当然である。第一は、基本的人権への影響である。AIやロボット工学の規制・方針に関する議論は、主に国民国家や地域社会のレベルで始まった経緯がある(自律型ロボット兵器は例外として)。 AIの影響が経済や政治の狭い範囲に限定されていたのであれば、このようなローカルガバナンス重視の姿勢は適切かもしれない。しかし、AIが人間関係に及ぼす影響は、直に人権を脅かす恐れがある。それが、国連が関与する明確な理由だ。

第二の国連との接点は、地球上の様々な人間関係の形態に起因するものである。 AI技術を適切に設計・開発・導入するためには、人間が互いに関与し共生する方法の多様性について一定の理解が必要となる。国連は、そうした多種多様な関係を理解するための取り組みを促進するうえで理想の立場にあり、個人としてだけではなく、多種多様な関係の一員としての開発者、地元の政策立案者、一般市民に対するAIの影響について、関係各位に教育支援を実施している。

AIとロボット技術は、大きなメリットをもたらすと同時に高いコストを伴う。この技術革命を通じて人間が問うべき重要な問題は「どうすれば人間の利益を高め、目標を促進する技術を得ることができるか」である。これに関する問題提起は増えているが、個人へのポジティブ、またネガティブな影響だけに重点を置く分析が多すぎる傾向性がある。AIやロボット技術が、家族・都市・国家・国際社会を構成する人々の重要な関係要素を大きく変え、断絶してしまう可能性も含めて理解するために、調査範囲を拡大する必要があるだろう。

•••

AIに起因する国際的な政策課題の探究を目的として研究者、政策立案者、企業およびオピニオンリーダーのために設立された包括的プラットフォーム、「AIとグローバルガバナンス」に本記事を寄稿したのはDavid Danks(デイビット・ダンクス)博士である。なお、記事内で述べられた意見は寄稿者の意見であり、必ずしも国連大学の意見を反映しているわけではない。

ディスカッションに参加しよう

著者

デイビット・ダンクス

カーネギーメロン大学

デイビット・ダンクス博士は、カーネギーメロン大学 L.L.サーストン哲学心理学教授兼哲学科の責任者である。自動運転車、自律型ロボット兵器、医療用ロボットなどの自律機能が技術システムに導入された場合の人や社会への影響に対処するために、様々な学際的手法を採用し、また複数の業界団体や政府機関とも積極に連携を図っている。計算認知科学に関する初期の研究成果は、人間の複雑な認知の統合認知モデルを開発した著書、『Unifying the Mind: Cognitive Representations as Graphical Models』にまとめている。2008年にJames S. McDonnell Foundation Scholar Award (ジェームス S. マクドネル財団学者賞)、2017年にAndrew Carnegie Fellowship(アンドリュー・カーネギー・フェローシップ)を受賞。

ディスカッションに参加しよう