私が興味を持っているものの1つは、しばしば対立し合う複数の目的を追求する意思決定をめぐる科学である。1998年、スティーブン・ヘインズと私は、航空宇宙構造物の改善をめぐる意思決定のための多目的フレームワークを開発した。

多目的意思決定の分野は、私たちをパレート境界の世界に導く。この原則は、ヴィルフレド・パレートの知恵を起点とする。パレートはイタリアの社会・経済学者で、その思想は経済的効率性を超えて道徳哲学の領域に至っている。

パレートの原則は、意思決定、特に倫理的な配慮が必要な意思決定に内在する対立に関する理解を促進する上で、重要な概念的構造を提示する。

倫理的な意思決定には、損失防止の要請と利益追求の要請の間にある複雑な相互作用が伴う。経済学でのパレート境界は、他者に損失を与えることなく個人が利益を得ることが不可能な状態を表す。

利益を追求するか、損失を防止するかという倫理的課題に取り組む際、パレートの原則は、利益を最適化して悪影響を最小限に抑えることを目指す細やかな戦略を提示してくれる。目的は、利益が他者の福祉を損なわない均衡状態に到達することである。

パレートの知見によると、行動とその社会的影響の間の複雑な相互関係においては、利益のみを追求したり、損失を完全に回避したりする絶対的状態の達成を目的としてはならない。そのような絶対的なものは通常達成できず、意図しない結果をもたらすことがある。

逆に、必要な妥協を意識し続けながら倫理の領域を進むことを目的とし、ある下位集団の利益が他者に損失を負わせない状態や可能な限り悪影響を抑えた状態を達成しようとすべきである。

パレート境界の検討

パレート境界は、さまざまな目的が互いに矛盾し得る複雑な多目標世界における最適な解決策を表す。パレート境界は、許容可能な妥協と、改善の余地がある準最適な妥協を区別する境界である。

これは、気候変動や持続可能な開発などの問題に対する最適な解決策を求める上で重要である。このパレート境界上の解決策では、ある目標の優位性を向上させると、もう1つの目標の優位性が損なわれることが避けられない。その一例は、太陽エネルギーを手頃な価格で提供するという目標と利益最大化の対立である。

ノーベル賞受賞者ダニエル・カーネマンによる行動経済学の書籍、『ファスト&スロー』をパレート境界の観点の枠組み内で分析することで重要な視点が得られる。

迅速だが精度の低い意思決定（システム1）と時間はかかるが精度の高い意思決定（システム2）の対比を考えてみてほしい。パレート境界は速度と精度の最適な妥協点の集合で構成されるため、一方の面で何らかの前進があれば、その他の面で譲歩することは避けられない。

それぞれの決定がこの境界上の交渉となるため、迅速な行動と時間をかけた徹底的な検討を行うことの相対的なコストと、許容可能と考えられるリスクレベルの慎重な検討が必要となる。

複雑な外交の世界にこの思考を適用することがますます重要になっている。こうした世界では、時間をかけて考えることがより良い解決策につながる可能性はあるが、コストの高い遅延が生じるおそれがあり、リスクの理解が必要となる。

リスク回避

リスクを理解するため、カーネマンとエイモス・トヴェルスキーは、損失の方が同水準の利益より心理的影響が大きいというプロスペクト理論を提唱した。したがって、100ランドを失うことによる精神的苦痛は、100ランドを得ることによる幸福より強烈なのである。

そのため、利益が得られる可能性が選択肢にある場合はリスクを回避し（例えば、賭けよりも確実な手段を選ぶ）、損失の可能性に直面した場合はリスクを追求することになる（例えば、損失を回避するために賭けに出る）。お金に関する決断や健康に関わる選択、外交に対する人間の反応が、必ずしも合理的な判断に基づかない理由を、プロスペクト理論が説明してくれる。

パレート境界は、トレードオフのあるシナリオにおける最適解の限界を表す。プロスペクト理論は、個人がさまざまな選択肢を評価し、その中から選択する方法を説明する。リスク回避と、損失と利益に対する偏った認識のため、意思決定者は、（トレードオフの状況で客観的に優れている）パレート最適解の方が主観的に劣っていると感じることがある。

生存を確保する上でリスク回避が非常に重要な役割を果たしてきたため、進化では機会を無謀に追求するよりリスク回避が優先されてきたようだ。リスク耐性の低い個体は危険の回避と既存資源の保護を優先するため、繁殖に十分な期間にわたって生き残る可能性が高くなる。したがって、私たちが存在するのは、祖先がリスクを回避してきたおかげなのだ。つまり、実現しないかもしれない不確実な利益にリスクを冒すより、目先の生存を確保しようとする慎重な性向があったために、生き残る可能性が高かったのである。

倫理的懸念

利益の追求と社会福祉の推進の対立は、伝統的なパレート境界のジレンマである。自由市場経済において純粋な利益最大化を追求することは、パレート最適な結果につながることがある。すなわち、資源が効率的に分配され、可能な限り高い生産高が得られる。

とは言え、公平な分配や満足のいく社会福祉基準が一貫して保証されるとはいえない。汚染を例に取ると、有害物質を排出する工場はパレート効率的かもしれないが、コミュニティーの福祉に重大な被害を及ぼす。

社会福祉の向上を目的とする汚染規制などの政策は、一般的な生活の質を改善するために一部の経済的生産をトレードオフして、純粋なパレート効率から逸脱する可能性がある。変動するパレート境界上の理想的な均衡によって、公共の福祉と利益追求の間で継続的な交渉が展開される。

ローカリゼーション対グローバリゼーション

ローカリゼーションとグローバリゼーションをめぐる議論は、パレート境界を検討することで分析できる。ローカリゼーションは地域経済と自立を重視するため、コミュニティーのレジリエンス（強靭性）を高めるとともに、長距離輸送による環境への影響を減らす可能性がある。

グローバリゼーションは、自由市場と相互依存の拡大を推進することでコストを削減し、消費者に対してより幅広い選択肢を提供する。

この文脈におけるパレート境界はそれぞれで発生し得る妥協を表している：完全にローカリゼーションの進んだ社会が、ある程度の効率性を犠牲にしつつ社会的利益を増進する可能性を持つ一方、純粋なグローバリゼーションは生産性を優先しつつ現地の安定や統制を損なうおそれがある。理想的な解決策は、ローカリゼーションの優位性とグローバリゼーションの経済的利益の均衡を目指すパレート境界にある可能性が高い。

とどまるところを知らない人工知能（AI）の進歩は、かなりのリスクと大きな可能性という、著しい対照を浮き彫りにする。AIシステムが高度化するにつれて、イノベーションを奨励してAIの恩恵を活用すると同時に、AIがもたらすおそれのあるリスクを最小限に抑えるにはどうすればよいか、という複雑な均衡が生じる。この問題には、パレート境界の概念が必要である。

これを説明するために、運転効率と安全性を優先するよう設計されたAI制御の無人自動車のことを想像してみてほしい。速度（効率）を最適化すると、よりリスクの高い選択を行う必要が生じる。対照的に、絶対的な安全性を優先すると、慎重過ぎて非効率的な運転になるおそれがある。

熟慮することなくAIを否定してしまうと、計り知れない利益を逃してしまう。一方、AIに何の疑いも持たない楽観主義では、潜在的に有害な結果を認識し損ねることになる。私たちの目的は、人類の進歩のためにAIを最適に利用しつつ、AIに意思決定を委ねる内在的なリスクを減らす最適点を見つけることであり、これは私たちが取り入れる価値観次第である。

結論として、パレートの知恵のおかげで、損失の防止と利益の追求の均衡を図る際の倫理的ジレンマについて深く理解することができる。これは、道徳的な決定を下そうとするときに、最大の利益は両極端にあるのではなく、慎重かつ思慮深く中間を探ることで見つかることを思い起こさせる。

この領域では、さまざまな価値観と利益の対立は、思いやり、理解、そして全関係者の幸福実現に対する深いこだわりをもって認識され、解決されるのである。

・・・

この記事は最初にDaily Maverickに掲載されたものです。Daily Maverickウェブサイトに掲載された記事はこちらからご覧ください。