ChatGPTは、職場や家庭に革命的な変化をもたらすであろうツールとして注目されている。このようなAIシステムは仕事の生産性を高める可能性がある一方、人間の職を奪うおそれもある。先月のChatGPTのウェブサイトへのアクセスは、15億件にのぼった。

総合的な統計はないものの、これらのユーザーはスマートフォンやコンピューターを利用でき、比較的高水準の教育を受けている可能性が高い。では、AI型チャットボットはこうした優位な立場に置かれた人々以外にも恩恵をもたらすことができるのだろうか。

私たちは、インドのタミル・ナド州にあるカムズワラムという人里離れた漁村に拠点を置く非政府組織（NGO）フレンド・イン・ニード・インディア・トラスト（FIN）と提携している。FINは、女性のエンパワーメントの欠如、大気汚染、衛生設備の不足と日々闘っている団体だ。

こうした問題やその他の問題が、現地の経済発展の主な障害となっている。先日、FINの同僚であるラジャ・ベンカタラマニ博士が米国から帰国し、ChatGPTについて熱心に議論していた。同博士は、カムズワラムにおける持続可能性の目標に対する意識の向上や意欲の醸成、コミュニティーによる関与の促進にAI型チャットボットが資するのではないかと考えていた。

ある実験で、私たちはFINのスタッフで高等教育を受けていない現地の女性たちと協力した。FINの女性スタッフは家庭での家父長的な考え方と闘う現地の村民で、現地の人々、特に少年や男性に対し、節水やトイレの使用、公共の場でごみを捨てないよう働きかけるための建設的な議論を組み立てることに苦労している。

私たちは、彼女たちの生活と仕事を支援するツールとして、ChatGPTを彼女たちに紹介した。携帯電話にインストールしたところ、非常に便利なことが判明した。ChatGPTはガイドのような機能を果たし、過去に議論した内容を記憶してくれる。

あるスタッフが、州の選挙を控え、夫と政治について議論するためにChatGPTを利用しようと考えた。そこで彼女はChatGPTに対し、自身が票を投じようとしている候補者の長所と短所を尋ね、データによるその裏付けを求めたのである。

彼女は次に、その政治家の対立候補についても同じことを繰り返した。ところが、どちらの候補に対する回答も等しく説得力のあるものであり、彼女はそれぞれの主張の信憑性を確認するほど忍耐強くはなかったため、一層混乱する結果になってしまった。この経験から、ChatGPTを再度利用することをためらうようになったのである。

ChatGPTの生みの親であるサム・アルトマンは、米国の他分野のテックリーダーたちと共に、AIのハルシネーション（幻覚）に伴うリスク、すなわち社会に緊張を引き起こしかねない誤った情報をAIが生成したときに発生するリスクを封じ込めるための規制を設けるよう呼びかけている。

私たちはChatGPTに対し、名誉殺人を行おうと躍起になっている群衆を鎮めるためのスピーチを作成するよう求めた。

今日でもインドでは、異なるカースト間で結婚する夫婦や、村の外で就職しようとする若い女性などに対する名誉殺人といった、住民間の暴力に悩まされている。ChatGPTは、こうした行為に反対するための説得力のある主張を生成する、非常に効果的なスピーチライターであることを証明した。

一方、現状維持を支持する人々もチャットボットを利用してコミュニティーに対する暴力行為を正当化するおそれがある。こうしたことは、彼らが村内での地位を維持しようとしている場合に起こる可能性があり、コミュニティーの構成員に対して暴力行為をやめるよう促す取り組みに対抗することになる。私たちは、AIシステムが名誉殺人を支持する主張を生成することにも同様に優れていることを発見した。

他の実験では、ChatGPTがコミュニティーに寄与しながら、FINの中核的なミッションでもある、NGOによる女性のエンパワーメントの促進にどのように役立つのかを確認しようとした。私たちはChatGPTに対し、国際女性デーの重要性を村民に説明するスピーチの作成を求めたのである。

スピーチは非常に感銘を受ける内容であったものの、男女比、法的制限外の胎児の中絶、女性の労働参加に関する事実誤認を含んでいた。誤認に対する弁解をChatGPTに求めたところ、「混乱を招き申し訳ございません。主張を説明するために仮定に基づく統計を用いました」との回答だった。

汚染問題

別の実験で、私たちはインドの伝統的な祭りに伴う汚染の問題について取り組もうとした。こうした祭りでは爆竹を鳴らしたり、パーティーを開いたりすることが多く、大気汚染・水質汚濁を深刻化させる。

過去にはストリート・シアターによって行動変容の動機付けに成功したこともあったが、FINのスタッフも、彼らのメンターも今回のテーマでの台本を書ける自信がなかった。しかし、ChatGPTは適切なプロンプトを入力してから3分で、若者が登場する寸劇を生み出したのである。

寸劇には、現地の名前が用いられ、現地のニュアンスが考慮された男女両方の登場人物が含まれていた。FINのスタッフは、自身のジョークを加えることで寸劇をより地元らしいものにした。その寸劇の主張は、合成繊維製の衣服から抜け落ちたマイクロファイバーが海洋に与える影響は深刻な環境問題であり、生活に被害を及ぼしかねないというものである。

AIに聞いてみた

ChatGPTに対し私たちの今回の調査結果に関する意見を求めた。回答は、ChatGPTは有益な情報を提供し、心の支えとなり、コミュニケーションをより効果的にすることから、経済的に恵まれない立場にある人々やNGOの双方にとって、ChatGPTは役に立つツールになりうることを強く主張するものであった。

一方、チャットボットは、誤った、不十分あるいは不完全な情報に基づいて主張を組み立てるといった、自らの明らかな欠点について触れることを避けた。チャットボットは私たちの助けとなると同時に、分断を招いたり、緊張を高めたりしようとする人々にとっても、有能なスピーチライターの役割を果たすおそれがある。

今のところ、ChatGPTは善意あるNGOにとって便利なツールであるが、NGOが支援する一般の人々にはそれほど役に立っていないようである。ユーザー側がChatGPTによる提案の倫理性と真実性を監視する手段を持たない限り、AIシステムは偽情報と誤情報を助長する危険なツールにもなりかねない。