人間は相手がただのアルゴリズムであっても不当な扱いに怒りを抱いて復讐したがるとの研究結果

一般に人間同士における交流では、有害行為を実行する主体は罰による痛みや苦しみを感じることも可能であるとされ、行為と罰がセットになっています。しかしAIやアルゴリズムの場合、人間に対して有害な行為をすることは可能であっても、罰による苦痛を経験する心がないため、行為と罰の間に隔たりがあるとのこと。

今回、マレーシアのビジネススクールであるアジア・スクール・オブ・ビジネスで組織行動学准教授を務めるアレクサンダー・エン氏らは、人々がアルゴリズムに対して罰を与えようと思うのか、そして罰を与えた時にどのような感情的反応を示すのかを調査しました。

エン氏は心理学系メディアのPsyPostに、「人々はAIが自分たちを傷つけるような決定を下すことができる一方で、痛みや後悔を感じたり、道徳的な教訓を学んだりすることはできないと考えています。AIが医療トリアージや従業員の解雇といった決定を担うようになるにつれ、人々がAIに責任を問おうとしたときにどのように反応するのか、そしてAIを罰することで正義が果たされたという感覚を得られるのかを知りたいと考えました」と語っています。

最初の実験ではオンラインで募集した380人のアメリカ在住の被験者が、最後通牒(ちょう)ゲームと呼ばれる金融ゲームをプレイしました。最後通牒ゲームは2人のプレイヤーを「提案者」と「応答者」に分け、提案者に一定額の資金が与えられた後、提案者が応答者との間でどのような配分で資金を分けるのかを選択。その後、応答者は提案者から提示された資金分配案について、受け入れるか拒否するかを選ぶというゲームです。

応答者が受け入れた場合は2人とも決められた配分に従った報酬を受け取れますが、拒否した場合は2人とも報酬を受け取れません。自分の利益だけを考えた場合、応答者はどのような配分であっても受け入れるのが最善の選択肢となります。しかし、提示された分配案に不満があって相手に罰を与えたいと考えた場合、たとえ自分が損をするとしても拒否することで、提案者に報酬を与えないという罰を与えることが可能というわけです。

実験では被験者をすべて応答者に割り当てた上で、提案者が「別の人間の被験者」あるいは「アルゴリズム」であると説明されました。そして、提案者は0.5ポンド(約105円)の資金について「0.25ポンド(約52円)ずつの公平な分配案」あるいは「提案者が0.45ポンド(94円)、応答者が0.05ポンド(約10円)」という不公平な分配案を提示。実際のところ、この分配案は研究チームが事前に設定したものでしたが、応答者はこの分配案について受け入れるか拒否するかを選びました。

被験者が感じた怒りや選択を調べたところ、提案者が人間だと伝えられた場合とアルゴリズムだと伝えられた場合で、不公平な分配案を提示された時の怒りはほぼ同程度であることが判明。さらに、相手が人間だった場合に不公平な分配案を拒否する確率は62.2％だったのに対し、アルゴリズムの場合は57.8％であり、統計的に有意な差はみられませんでした。これは、人間がたとえ相手が心を持たないアルゴリズムであったとしても、自分が不利益を被ってでも罰を与えたいと考えたことを示唆しています。

その後に行われた同様の実験でも、やはり被験者は相手が人間だろうとアルゴリズムだろうと、ほぼ同じ割合で提案者の不公平な分配案を拒否することが確認されました。エン氏は「人々は不公平な機械に対して、不公平な人間と同じような反応を示します。被験者は低い金額を提示してきたアルゴリズムに対しても、同じ金額を提示してきた人間に対しても、同じように怒りを覚えました。そしてアルゴリズムを罰するために、自分のお金を差し出すこともいといませんでした。ただし、機械を罰することが満足感につながるかどうかは、研究によって一貫性がありませんでした」とコメントしました。

さらに別の実験では、提案者からの不公平な分配案を拒否した3684人の被験者に対し、提案者からさまざまなメッセージが送られ、メッセージが「正義に対する満足感」を高めるかどうかが調査されました。メッセージには「拒否に対する感情的な苦痛を表すメッセージ」「提案額が低すぎたと認めて今後はより公平な提案をすると約束するメッセージ」「苦痛と教訓の両方を得たと語るメッセージ」などが含まれており、メッセージが送られなかった場合とも比較されています。

分析の結果、提案者が人間だと説明された被験者が感じた全体的な正義への満足感は、アルゴリズムだと説明された被験者よりわずかに大きい程度にとどまりました。このわずかな差は、満足度スコアの変動のわずか0.5％を占めているに過ぎず、相手がアルゴリズムであろうと被験者は人間とほぼ同等の満足感を得られることがわかります。また、被験者がアルゴリズムから感情的な苦痛や教訓についてのメッセージを受け取った場合、何のメッセージも受け取らなかった時より高い満足度を示すことも確認されました。

エン氏は、「アルゴリズムが何かを感じるとは誰も信じていないので、アルゴリズムからの謝罪や反省の表明はほとんど意味がないだろうと予想していました。しかしこうしたメッセージは、少なくとも人間によるメッセージと同程度に、アルゴリズムに対する人々の正義感を高めました。また、お金を保持することも損失を経験することもできないアルゴリズムを罰するために人々がお金を払ったことも、驚くべきことでした」と語っています。

なお、一連の研究はあくまで匿名のパートナーを相手にした、短期的で少額のオンライン金融ゲームに基づいています。そのため、住宅ローンの審査や採用試験、交通事故といった現実世界に重大な影響を及ぼす状況では、人々はまた異なる反応を示す可能性があるとのことです。