AI（人工知能）が社会に完全に受け入れられるためには、これまで保留されていた大問題を、いよいよ解決する必要があります。
その大問題は、「トロッコ問題」に集約されるのではないかと思います。
イギリスの哲学者フィリッパ・フットが1967年にこの問題を提起して以来、世界中で数多くの考察・論争が行われながらも、これまでは、「難しい問題ですね」「答なんてないんじゃないですか？」と、気楽に言われてきました。しかし、人間とAIが真に共存するためには、その解答が必要になるのではないかと思います。
◆トロッコ問題
今の時代、トロッコを知らない人も多いでしょう。トロッコとは、鉄道の線路の上を走る小型貨車で、トロッコに動力機関はなく、単に低い方向に走ったり、ペダルを漕いで動かす単純なものです。
トロッコは、鉱山やダムといった大規模な工事現場などで、数人の人間の移動や、荷物の運搬に利用されます。
そして、「トロッコ問題」とは、こんなものです。
勢い良く走っているトロッコの先に５人の人がいて、そのままいくと、トロッコはその５人に激突し、５人が死亡します。
ところが、あなたが線路切り替え機を使い、線路の切り替えを行えば、トロッコは進路を変えますが、変えた進路の先には、１人の人がいて、トロッコをそちらに走らせれば、その1人が死にます。
あなたは、線路を切り替えるべきでしょうか？
単純に考えると、線路を切り替え、４人多く救うべきと思うかもしれません。
しかし、もし、これを学校の試験問題にし、学校が、「線路を切り替える」を正解にしたら、その学校への非難で大騒動になるでしょう。
では、なぜ、それが正解と言えないのでしょうか？
そこで、問題を明確にするため、こんなふうに問題を変形した人がいます。
５人の重病患者がいて、そのままでは、５人共、やがて死にます。
しかし、１人の健康な人の臓器を５人に移植すれば、５人は助かるとします。しかし、その場合、臓器を提供した１人は死にます。
６人の年齢は同じ位とします。
この場合だと、１人を犠牲にすべしという人は、まあ、ほとんどいないと思います。
つまり、この臓器移植の例では、何もしないのが正解というのは、理解し易いのです。
トロッコ問題も、本質的にはこれと同じですので、やはり、「自然にまかせて」５人を犠牲にするしかないというのが正解のように思われます。
しかし、それが正解と誰もが認めるとは限りません。
◆2017年中にAI運転車がデビューするはずだった？
2017年4月のTEDカンファレンスで、有名な電気自動車メーカーであるテスラ社のCEOイーロン・マスクは、TEDの代表者であるクリス・アンダーソンとの対談形式の講演を行いました。
その中で、アンダーソンがマスクに、「テスラ社はいつ、AI運転の自動車を市場に出すのですか？」と問うと、マスクは「今年（2017年）の11月か12月です」と答えます。そして、さらに続けて、マスクは、
「カリフォルニアの駐車場からニューヨークの駐車場へと、制御装置には一切触れることなく移動出来るようになります」
と言い切り、アンダーソンが「それが今年中に？」と改めて確認すると、マスクは、「その通りです」と自信たっぷりに断言し、会場からは拍手が起こりました。
しかし、2021年10月現在、それはまだ実現していません。
その理由は、「トロッコ問題」が解決されないことと考えて良いと思います。
◆機械には非常に厳しい条件が課せられる
AIの運転の安全性はどのくらいかと言いますと、既に、人間の運転よりはるかに安全です。
人間の運転でしたら、アメリカでは、１年間に４万人もの人が、交通事故で亡くなっています。しかし、だからといって、自動車が禁止されることはありません。
しかし、AI運転の場合、１人の死者も出すことは許されないのです。
実際は、AIだけでなく、機械や、それを制御するソフトウェア、さらには医薬品の欠陥で人が死ぬことは、決して容認されないのです。
例えば、時々、ある自動車のエンジンやエアバッグに欠陥が見つかり、メーカーは販売した何万台もの自動車を無償で修理することがありますが、これは、放っておいても事故が起こる可能性は、ほとんどゼロという些細な欠陥の場合もあります。それでも、最後の１台まで修理する義務がメーカーに課せられます。
それどころか、欠陥が明確ではないばかりか、単に疑わしいというだけでも駄目な場合があります。
2009年に、アメリカで、トヨタ車が暴走したことで家族４人が死亡したとして、トヨタが訴えられました。
しかし、これは、トヨタ車の欠陥ではなく、この車に使用されていた、この車専用のものでない床シートの一部がアクセルに引っかかったことが原因でした。
しかし、トヨタは自主的に380万台の同型車を回収しました。そうしないとアメリカ人が納得せず、アメリカを敵に回しかねなかったからです。
スマートフォンにおいても、2016年に、バッテリーの欠陥による爆発事故が相次いだとして、サムスンは「Galaxy Note 7」という機種を250万台回収しました。しかし、そんな事故が起こったのはせいぜい２、３件で、それもかなり特殊な状況でしたが、それでも許されないのです。
人間に比べ、機械がいかに厳しい目で見られるかが分かると思います。
もしかしたら、AI運転の自動車の事故率は人間が運転する場合の1%以下かもしれませんが、それでは足りないのです。AI運転の車は、決してミスをしないことが証明される必要があります。
しかも、上のトヨタ車の例のように、実際には自動車に責任がないと証明されても、尚、疑われるのです。
そうであるなら、トロッコ問題のようなことに、実際にAI運転の自動車が直面した時、AIが取った対応に対し、極めて厳しい目が向けられることは間違いなく、自動車メーカーも政府も、「トロッコ問題」に決着を付けることが出来ない限り、AI運転の自動車が認可されるのは難しいと思われます。
◆論理的な答は出ない
「トロッコ問題」に、誰もが納得する答は、今のところありません。
「トロッコ問題」を、現実の問題に置き換えると、次のようなことが考えられます。
１人の男性が乗ったAI運転の車が走行中、そのままでは５人の子供をはねてしまう状況で、AIがハンドルを切り、車は崖から転落したとします。AIは５人の子供を救い、搭乗者の男性を犠牲にすることを選んだわけです。
客観的には、この判断は正しいと思われるかもしれません。
オリジナルの「トロッコ問題」に当てはめると、AIは、線路切り替え機を操作し、５人を救い、１人を犠牲にしたわけです。
しかし、車ごと崖から落とされた男性、あるいは、その家族が、この車を作った自動車会社を訴える可能性があります。
そして、自然の流れで言えば、自動車は５人の子供をはねたと思われますので、「AIが意図的に男性を殺そうとした」として、男性側が裁判に勝つ可能性があります。
そもそも、このAI自動車を販売する際、５人の子供を救うために、AIが搭乗者を犠牲にする可能性があると説明し、それが販売契約書に書かれていたら、この男性は、この車を買わなかった可能性が高いと思われます。
いずれにしても、生命とか生活が関係する問題に、理屈だけで答を見つけるのは難しいものです。
こんな逸話があります。
松下電器産業（現パナソニック）がまだそれほど大きくない時代、大不況が襲い、松下電器も経営危機に陥ります。松下電器の幹部達は、社長の松下幸之助に社員の大規模なリストラを要求します。
不採算部門を切り捨て社員をリストラするというのは、業績回復の有力な手法で、今後は、AIがリストラ実施を提案、および、その内容を提示するようになると思われます。
しかし、松下幸之助は、「リストラは一切しない。仕事がないなら掃除をやらせろ」という、言わば非論理的な、AIなら決して行わない決断をします。
ところが、松下幸之助の決断を聞いて感激した社員達全員が、一丸となって不況に立ち向かい、新しいアイデアを出し、あらゆることに積極的、果敢に取り組んだ結果、大不況の中で、松下電器だけが業績を向上させました。
「トロッコ問題」だって、非論理的としか思えないやり方で、全員を救う方法があるかもしれません。
ただし、この松下電器の場合は、たまたまうまくいっただけかもしれず、リストラをしなかった結果、もっと悪い状況になり、松下幸之助は重大な責任を追及されたかもしれません。
AIとは、ある意味、未来予測技術です。何を選択したかによって、どうなるかを正確に予測出来るほどAIが進歩することが鍵になると思われます。
以上です。
| 当ブログオーナー、KayのAI書籍です。 誰でもAIを使って、「モンティ・ホール問題」「囚人のジレンマ」などの問題に挑むことが出来るよう工夫しました。 その方法を使って、あなたの会社などの問題をAIを使って解決しましょう。 実習のためのデータを作ることが出来るExcelマクロを出版社サイトから無料でダウンロード出来ます。 |
0 件のコメント:
コメントを投稿