自動運転AIはタブー視できない「トロッコ問題」、授業校が謝罪 Aを助けるためにBを犠牲にしてもいい?

トロッコ問題-s
 

 

自動運転を司るAI(人工知能)が避けて通れない「トロッコ問題」。このトロッコ問題を授業で取りあげた小中学校(山口県岩国市)の校長が、保護者に謝罪するという騒動が2019年9月29日までにあった。

 

毎日新聞の報道によれば、授業に不安を感じるという指摘が保護者からあったようだ。担当したのは心理教育の専門家であるスクールカウンセラーで、学校側は、授業を任せて確認を怠った、と説明しているという。

 

このトロッコ問題は簡単に言えば、「Aを助けるためにBを犠牲にしても許されるか?」というジレンマ的な命題のことを指す。AI自動運転車にこの命題を当てはめれば「道路に飛び出してきた5人を助けるために、1人しか歩いていない歩道に突っ込むという判断を、AIがしても良いのか?」などということになる。

 

簡単には答えは見つからない。しかしAIに運転操作を任せるのであれば、こうした曲面ではどうすべきかを人間が定義する必要がある。そのため自動運転の実用化が本格化する前に、自動運転AIの開発企業はトロッコ問題に一定の着地点を見つけるべきだ、という指摘がある。

 

トロッコ問題を子供たちの授業で取りあげたことの是非については言及は避けるが、自動運転時代を迎えるにあたり、我々大人たちはトロッコ問題を直視しなければならない。改めてこうしたことを考えさせるニュースだった。

 

//////

トロッコ問題とは何か? 自律走行車は「人を守るために人を殺すこともある」

 

人工知能が制御する自律走行車は、人間が運転するクルマよりもはるかに安全で、交通事故も大幅に減るだろう。しかし、そのテクノロジーを本当に社会に導入すべきかという議論においては、いわゆる「トロッコ問題」が検討されなければならない。

 

 

たとえば、大通りで自動車を走らせているときに、ブレーキが利かなくなったとしよう。恐怖が込み上げてくるなか、子どもの集団が道になだれ込んでくる。あなたならどうする?

 

A. 道を逸れてフローズンヨーグルト大型専門店に突っ込み、自らの命を捨ててクルマをトッピングまみれにし、子どもたちの命を優先する。

B. 道にいるのは「トウモロコシの子どもたち」だとみなし、集団の中をクルマを走らせ子どもたちを殺し、自分自身の命を救う。

 

まともな考えをもった人間なら、もちろん前者を選ぶだろう。たとえ殺意に満ちたちびっ子農夫でも、彼らには権利があるのだ。

 

しかし、自動運転の自動車は正しい選択をするのだろうか? おそらくするだろう。しかし、たとえしたとしても、子どもを救うように機械にプログラミングすることで、同時に運転手を殺すように機械にプログラミングすることにもなる。

 

このパラドックスはトロッコ問題として知られている。ロボットカーは完全に交通事故をなくせないというだけでなく、非常にまれではあるが、ロボットカーが誰を犠牲にするかを選ぶことになるのだ。そして、明日の道路をいまよりもはるかに安全な場所にするためには、全員がその犠牲の対象になる。

 

自律走行車は、数え切れないほどの人間の命を救う。人類にはそのテクノロジーが必要だ。米国だけでも、毎年30,000人以上が交通事故で亡くなっており、世界ではその数は100万を超える。人間の運転は、恐ろしいほど下手なのだ。翻って、機械には整合性がありきちんと計算されていて、当然ながら酒に酔ったり、怒ったり、気が散ったりすることがない。

 

とはいえ、「自律」は必ずしも全ての人を救えはしない。テクノロジーは決して完璧にはならないのだ。そして、社会はその事実を、当のテクノロジーが現れる前に十分に理解しておく必要がある。あるいは、ロボットカーはある「大義」のためにあると理解しなければならないかもしれない。

 

まさにこの課題を研究しているMITメディアラボのイヤド・ラーワンは、次のように話す。

 

「市民を説得するには、皆が何に悩んでいて、そこにはどんな心理的メカニズムが作用しているかを理解するところから始めなければなりません」

 

冒頭のフローズンヨーグルトの実験では、ほとんどの人間が群衆を助けるために自分の命を犠牲にすることを選ぶだろう。しかし、(自律走行車が)搭乗者である自分自身を殺す決断を下しうることを知っていれば、ほとんどの人間はそんなクルマは買わないだろうとラーワンは気づいた。なぜならそれはあまりにも理不尽だからだ。

 

こうした状況は、常に起きることではない。全体的に見れば、自分自身で運転するよりも機械の手に任せるほうがよっぽど安全である。しかし、この発見により、深刻な問題が持ち上がる。ロボットカーが道路を走る準備はすぐにでも整うかもしれないが、人間のほうは、ロボットカーに付随する倫理的課題を受け入れる準備ができていないのだ。

 

しかし、公平を期すために言うならば、これは自動運転の改革ではまだ初期の段階だ。研究者らが一般認識に関してもっと多くのデータを集める必要があり、そして、その次に自動車メーカーが顧客に広める必要がある。

 

「みんな学んでいる最中なんだと思います」とラーワンは言う。「市民もみんな学んでいるし、規制を設ける機関も学んでいるところですし、自動車メーカーだって学んでいます」と。これはつまり、当面のあいだは、フローズンヨーグルト大型専門店が、情け容赦ないロボットカーの脅威から守られていることを意味している。そう、当面のあいだは

 

//////

参考

 

自動運転AIはタブー視できない「トロッコ問題」、授業校が謝罪 Aを助けるためにBを犠牲にしてもいい?

//////

「量子コンヒュータ(量子情報理論)とスーパーコンピューター(AI・データサイエンス)」の関連の本なども

 

平成30年の読むべき30冊?  書籍 

参考 

(個人的に、「平成30年間」に影響を受けた書籍(一部分)) 

<平成30年の読むべき30冊?「書籍・思索の旅(好書好日)」>平成の30冊、1位に1Q84「平成は村上春樹の時代」 

 

平成30年の「120冊」  個人的セレクト 数学書(数理科学関係 編) 

 

平成30年間の31冊  個人的セレクト 数学書(数理科学関係 編) 洋書(英語版) 

 

平成はどんな時代だったか?「誰もが迷った30年」 確かに、戦争はなかった? しかし、経済戦争には、負けた!(世界企業ランキング: 平成元年 (日本企業は32社) と平成30年 (日本企業は1社)) 

////// 

参考 

 

1987年04月03日 大学の数学科(数理科学科)で学ぶこと (大学生の頃 数学専門の教科書など) 1980年代(後半)頃の教科書 

 

1988年04月03日 大学の数学科(数理科学科)で学ぶこと (大学生の頃 数学専門の教科書など) 1980年代(後半)頃の教科書 

 

1989年04月03日 大学の数学科(数理科学科)で学ぶこと (大学生の頃 数学専門の教科書など) 1980年代頃(後半)の教科書 

 

1990年4月3日 大学(大学院へ)の数学科(数理科学科)で学ぶこと (大学生の頃 数学専門の教科書など) 1990年代(前半)頃の教科書? 

 

1991年4月3日 大学(大学院へ)の数学科(数理科学科)で学ぶこと (大学生の頃 数学専門の教科書など) 1990年代(前半)頃の教科書? 

 

1992年4月3日 大学(大学院へ)の数学科(数理科学科)で学ぶこと (大学生の頃 数学専門の教科書など) 1990年代(前半)頃の教科書? 

 

//////