機械学習:人間の倫理観や道徳観を摸倣可能なアルゴリズム

自動運転車は、道徳的に、人間がやるように行動したり、人間が人間に対して期待するようなやり方で、果たして行動したり出来るのでしょうか?過去の考えに反して、今回の革新的な新しい研究が、マシンベースの道徳的決定が、原理上可能であることを意味する、機械が、人間の道徳をモデルにすることができることを初めて証明しています。

没入型仮想現実

Self-driving cars may soon be able to make moral and ethical decisions as humans do

The research, Virtual Reality experiments investigating human behavior and moral assessments, from The Institute of Cognitive Science at the University of Osnabrück, and published in Frontiers in Behavioral Neuroscience, used immersive virtual reality to allow the authors to study human behavior in simulated road traffic scenarios.

オスナブリュック大学の認知科学研究所による、Frontiers in Behavioral Neuroscience誌に掲載された今回の研究「人間行動と道徳的評価を詳しく調査する仮想現実実験」は、本研究の著者たちが、シミュレートされた道路交通シナリオにおいて、人間挙動を研究することを可能にする、没入型バーチャルリアリティ(没入型仮想現実)を使用しています。

倫理観はプログラム可能

The participants were asked to drive a car in a typical suburban neighborhood on a foggy day when they experienced unexpected unavoidable dilemma situations with inanimate objects, animals, and humans and had to decide which was to be spared. The results were conceptualized by statistical models leading to rules, with an associated degree of explanatory power to explain the observed behavior. The research showed that moral decisions in the con?ned scope of unavoidable traffic collisions can be explained well, and modeled, by a single value-of-life for every human, animal, or inanimate object.

研究参加者達は、霧が立ち込める、典型的な郊外環境で車を運転するように言われ、その時、無生物、動物、人間のうちのどれかを選ばなければならない、予測不可能・回避不可能な板挟みの状況下に置かれました。結果は、観測された行動を説明するための、説明能力の関連度と共に、ルールにつながる統計モデルによって概念化されました。研究者達は、不可避の衝突の操縦範囲内での道徳的決断が、全ての人間、動物、無生物体に対する、たった1つの命の価値のみによって、上手く説明でき、モデル化することさえも可能な事を証明しています。

本研究の第一著者Leon Sütfeld氏は、道徳的決定はとても文脈依存なので、アルゴリズム的にはモデル化や記述は不可能だと、これまで考えられてきたと言っています。”しかし、私達は全く逆であることに気付きました。ジレンマな状況で、人間の行動は、参加者たちによって決められた、全ての人間、動物、無生物体に対する、命の価値をベースにした、割りと単純なモデルによって、モデル化することができます。この事が、人の道徳的行動が、機械によっても使用可能なアルゴリズムによって、上手く記述され得ることをほのめかしています。”

自動走行車の倫理原則

The study’s findings have major implications in the debate around the behavior of self-driving cars and other machines, like in unavoidable situations. For example, a leading new initiative from the German Federal Ministry of Transport and Digital Infrastructure (BMVI) has defined 20 ethical principles related to self-driving vehicles, for example, in relation to behavior in the case of unavoidable accidents, making the critical assumption that human moral behavior could not be modeled.

本研究の発見は、自律走行車や他の機械の、回避不可能な状況に似た場面における行動に関わる議論の中で、大きな意義を有しています。例えば、ドイツ連邦交通デジタルインフラ省による主導的な新しい試みが、不可避の事故事例における行動に関するような、自動運転車と関わり合いを持った20の倫理原則を定義し、人間の道徳的行動は、モデル化できないという、決定的に重要な憶測を立てています。

機械は誰を模範にすべきなのか?

本研究の上席著者Gordon Pipa教授は、現在、機械が人間に似た道徳的決定をするようプログラム可能であるように思われるので、社会全体が、切迫した深刻な議論に参加することが非常に重要になっています。”我々人類は、自律システムが、道徳的な判断を習得すべきかどうかを問う必要があり、もしそうだとしたら、それらは、人間の決定を模倣することで、道徳的行動を摸倣すべきなのか、道徳論に基づいて行動すべきなのか、もしそうだとしたら、どの道徳論に従うべきで、さらに、最も重要なことは、機械の決定により、何か非常に不味いことが起きた場合、誰が、あるいは、何が、そのことに対する責任を負うべきなのでしょうか?”

1つの例として、新しいドイツの倫理原則の範疇では、道路を走る子供は、危険を作り出す事に著しく絡んでいると見なされ、従って、無関係な存在として、歩道に立っているだけの大人と比較した場合、救われるべき対象という資格の上で劣っています。しかし、この事は、多くの人々によって持たれた倫理観で、解釈の余地はどれくらい大きいのでしょうか?

”今は、我々は、人間の倫理的決断を機械に実装する方法を知っているので、私たちは、社会全体として、未だに、二重のジレンマを抱えています。”と、本論文の上席著者Peter König教授は説明します。”初めに、我々は、倫理観が、機械挙動用のガイドラインに含まれるべきかどうかを決める必要があり、次に、もし、含まれるとしたら、機械は、人間と全く同じように行動すべきなのでしょうか?”

本研究の著者達は、自律走行車は、病院内のロボットや他の人工知能システムが、よりありふれた存在になる中では、ただの始まりでしかありません。彼等は、人類は、現在、明白なルールを必要としている、新しい時代の始まりにいて、もし、ルールを作らなければ、マシンが人間無しで、勝手に自分達で物事を判断し始めるようになるだろうと警告しています。

人間なら子供を優先しそうなところですが、機械的には、事故を引き起こす張本人の子供は見捨てられるべきとプログラムされれば、事故とは無関係の大人が救われるので、それはそれでいいのかもしれません。ホーマー・シンプソンが、飼い犬と人間のどちらに車を当てるべきかの選択に立たされた時、人間を選んでいましたが、機械なら、間違いなく、犬を選択するはずです。人間が道徳的かと言えば、必ずしもそうとは言えず、道路の狭い住宅街で、子供の飛び出し注意、徐行、速度落とせ等の標識が立ってたり、地面に書かれているにも関わらず、ガン無視して、猛スピードで走り去る車が多いことからも、車が凶器という認識もなく、交通ルールを尊守する気も、人の命を何とも思わない屑が多いことを証明しています。アルゴ通りに行動する機械が運転すれば、事故はなくなると言われているので、人間が運転するよりも、はるかにましだとも指摘されています。そうなると、ほとんど人間は、所詮は、機械以下の存在でしかないと言えてしまうのかもしれませんが、モラルの無い人間が多いのも確かです。