【まとめ速報】ネコの速射砲

気になるニュースをお届けします!

【科学】5人の命を助けるために1人を殺してもよいか? 人工知能が殺人を犯す懸念と倫理問題

   

1:2016/04/03(日) 22:17:44.69 ID:
 本連載の第7回で、人工知能は「敵か、家族か」という二分法で考えられるほど単純なものではなく、遅かれ早かれ「人間の倫理」の問題として浮上してくると書いた。
人工知能の動向を追いかけていると、「人間とは何か」「社会はどうあるべきか」という問いが、人工知能を発達させるうえで避けて通れない大きな問題として存在することがわかってくる。

人工知能開発における究極の選択問題

 トロッコ問題(トロリー問題)をご存じだろうか。簡単にいうと、「ある人を助けるためにほかの人を犠牲にするのは許されるか?」という倫理学の思考実験だ。

「線路を走っているトロッコが制御不能になった。このままトロッコが進むと線路前方にいる5人の作業員が死んでしまう。このとき現場で、
この状況を目撃したAさんは線路を切り替えることのできる転轍機のそばにいた。切り替えれば5人は助かるが、切り替えたほうの線路にいるもう1人の作業員Bさんは死んでしまう。手段は転轍機しかない」

 これは、「5人を助けるために1人を犠牲にしてもよいか」という道徳的ジレンマに関する問題である。あなたはどう答えるだろう。ちなみに私は、転轍機を一人のほうに切り替えることを選ぶ。

 この問題には、派生した以下の別バリエーションがある。

「Aさんの隣には太ったCさんがいて、Cさんを線路につき落とせば、トロッコは確実に止まり、5人を助けることができる。しかしCさんは確実に死ぬ」

 この2つの問いを5000人以上に聞いたところ、最初の質問には89%の人が「5人を助けるために1人を犠牲にしてもよい」と答えたという。
しかし、2番目の質問で「Cさんをつき落とすことは許される」としたのはわずか11%。2つの質問の違いは、1人の犠牲者の「出し方」だけだ。
命を奪うことに関して、私たちの中には確実にブレーキが存在する。だから、そのことに対する関与が薄いほうを選ぶ。(参考:「wikipedia」より)

トロッコ問題解決がなければ自動運転車の普及はない?

 このトロッコ問題は、米グーグルや世界中の自動車メーカーが研究する自動運転車に必要な人工知能でも考慮しなければならない。

 たとえば、オイルが撒き散らされた路上に、自動運転のクルマがスリップを引き起こさざるを得ないスピードで進入してきたとする。そしてスリップする。
前方にはたくさんの子どもたちがいて事故は避けられない。ただ、搭載された人工知能には逆ハンドルを切るプログラミングがされ、少しだけコントロールできる。
道路前方の左端に突っ込んでいけば、子どもの犠牲は減る可能性がある。しかし、クルマはガードレールを突き破り、運転手が崖下に転落する。

 このような場合、人工知能にどのような判断をさせればよいのだろう。乗員を犠牲にして、前方の子どもを助けるのか。しかし、乗員を犠牲にするプログラムがなされたクルマは売れないだろう。

「人数の少ないほうを犠牲にする」とプログラムすればいいのだろうか。そうすると、人工知能には「太ったCさんを線路につき落とす」可能性が開けてしまう。
論理的にはそうなる。助けるために殺人を犯すことを是とする機械が出現する。この延長は、人工知能を搭載した殺人兵器だろう。味方をほぼ完全に識別し、敵をせん滅する。
あのダークな「ターミネーター=破壊的ディストピア」に一歩近づくロボットがつくれるのだ。悪意を持った人工知能。機械が意識に目覚めなくても、マッドサイエンティストと蒙昧な政治家がいれば、それはすぐにでもできそうだ。

(以下略 全文はリンク先で)
biz-journal.jp/2016/04/post_14504.html
biz-journal.jp/2016/04/post_14504_2.html

170:2016/04/03(日) 22:51:59.51 ID:
>>1
それ以上の思考をやめさせるように
AIにブレーキをかける必要があるのであって、
どこまでAIに丸投げする気なんだよこいつは。
487:2016/04/03(日) 23:39:01.90 ID:
>>1
人間の命の価値って等価じゃないし、絶対的なもんでもないから、必ずしも人数多い方救うのが
正しいってことにはならないよな。

Bさんが良い人で、5人の方は屑だったら、当然答えは変わってくるわけだし。

744:2016/04/04(月) 00:16:50.57 ID:
>>1
ま、キリスト教では、

確か聖書の中でイエスが答えを出してるよな。
「腹を空スかせた子供が何人か待ってる家に、パンを買って急いで帰ってる人間が、
  途中で、もう何日食べてなく飢えて死にそうな人間が倒れてるのに出くわした時、
  その人間は、飢えて倒れてる人間を無視して家路を急ぐべきか、
  それとも自分の子供達は放っておいて、そのパンを飢えた男に与えるべきか?」 ってな。

イエスの答えは、「目の前の男を助けよ。」であったように覚えている。
子供達のことにについては、そのアトに考えよってことだろう。

それに従うと、
たとえ、その後に5人の命を助けることになろうとも、目の前の1人を殺してはならない、だな。

777:2016/04/04(月) 00:23:23.71 ID:
>>744
でもこれ、自分の子供も栄養失調で死にかけていたらどうするんだろ?

動物なら間違いなく自分の子供のことしか考えないし、それどころか最も丈夫に成長する可能性の高い子供に
リソースを集中するために、当然のように他の子供を犠牲にするよな。それが恐らく、長い進化の過程で最適化
された生存戦略なのだから。

792:2016/04/04(月) 00:26:56.82 ID:
>>777
神はいつも完璧に采配されているというイマココ信仰さ。
譬えのような極限状態はともかくとして実践できているだろうか?
っていう信仰に対する問いかけだね。
795:2016/04/04(月) 00:27:40.71 ID:
>>777

オマエらのような畜生民族コリアンと話すだけ無駄だけどな、

キリスト教の教えが、ヨーロッパの白人社会に広まったのも、
そういう「ありふれた生物本能」を越えて、はるか高みに辿タドりついてる「倫理」を説いてるからだよ。

5:2016/04/03(日) 22:19:21.71 ID:
サンデル先生に聞け
10:2016/04/03(日) 22:20:32.47 ID:
突き落とすのが安倍だったら遠慮なく突き落としていい
おわり
11:2016/04/03(日) 22:20:33.15 ID:
どっちもほっとくに決まってるだろ。
トロッコ問題簡単すぎ。
70:2016/04/03(日) 22:33:28.54 ID:
トロッコの例では「何もしない」が正解でしょ。
能動的に関わると責任が発生する。もちろん賠償責任も。
87:2016/04/03(日) 22:36:42.12 ID:
>>70
意図してなくても過失ってものはあるので
103:2016/04/03(日) 22:40:54.80 ID:
自衛隊の仕事なんて、自分で死んでほか助けるんですが

なにいってんな、ほんまアメ公は

まじで狂ってる、てめえのとこのアーミーもそうなんですがね

139:2016/04/03(日) 22:47:18.65 ID:
なんか根本的にディープラーニングを理解していないかのような
問題提起するのが後を絶たないよな

(擬人化して言えば)こいつらって葛藤とかしないだろ
下手すればそういう倫理だとか小癪なこと考えている人間の知能のほうが
却って、相対的にかつて想像した融通の利かないコンピューターの
イメージそのものに近い位置にいるよ
そもそもそんな事故を起こす可能性すら未知数だ

プログラムじゃなくてラーニングなんだよな、だから何度も教え込ませるわけ
ってことは教え込ませた人間の責任がある程度あるって事でいいだろ
将来的には馬車と車の速度を比べていた人たち程度の話になると思うよ、
倫理とか言ってる人はね

159:2016/04/03(日) 22:50:29.52 ID:
サンデル先生もずいぶん昔のブームに感じられる
161:2016/04/03(日) 22:50:46.21 ID:
将棋のAIも平気で飛車を犠牲にして王を取りに来る、
飛車がもったいないとかそんな心はない。
172:2016/04/03(日) 22:52:02.61 ID:
状況によるな
5人が嫌いならそのまま
1人の方が嫌いなら進路変更だな

人工知能にはその人らの所得や家族構成、普段の態度や周りの評判などを入力しておいて
どちらが今後残したほうがいいのか即座に計算させた後に決めさせればいい

182:2016/04/03(日) 22:53:10.70 ID:
この手の問題は

殺すことを前提で手段を固定する事そのものに倫理的問題があるんだよな。

大声を出すとか、誰も犠牲にしない方法を考える事を停止させる。

あらゆる事を想定して安全を追及する理系的発想を小馬鹿にする文系的発想の典型。

192:2016/04/03(日) 22:55:01.61 ID:
>>182
あらゆる事を想定したとしても、絞られるケースはあるだろう。
というか、お前の発想が理系とは思えねえw
204:2016/04/03(日) 22:57:38.71 ID:
>>192

無いよ

誰かを犠牲にして誰かを助けるケースなんて人間は遭遇しない

この事例の事故の場合は考える時間すら無く、判断に関係なく結果だけが残る。

251:2016/04/03(日) 23:05:57.37 ID:
>>204
理解した。
だがそう思うのなら、この命題の不備を突くべきであるだろ?
お前はギリギリまで乗って回答しすぎ。
213:2016/04/03(日) 22:59:03.73 ID:
何もしないって言ってるやつはもっと状況を極端にして考えろ。
一方には100人の女子中学生がいる、もう一方にはもうすぐ死ぬヨボヨボのジジイがいる。
どっちを選ぶのか。
215:2016/04/03(日) 22:59:14.75 ID:
切り替える暇があるなら大声で6人の注意を引いて自力で逃げて貰おうぜ
267:2016/04/03(日) 23:08:49.19 ID:
>  たとえば、オイルが撒き散らされた路上に、自動運転のクルマがスリップを引き起こさざるを得ないスピードで進入してきたとする。そしてスリップする。
> 前方にはたくさんの子どもたちがいて事故は避けられない。ただ、搭載された人工知能には逆ハンドルを切るプログラミングがされ、少しだけコントロールできる。
> 道路前方の左端に突っ込んでいけば、子どもの犠牲は減る可能性がある。しかし、クルマはガードレールを突き破り、運転手が崖下に転落する。

どのみち死人が出るなら、どう判断しようが大差無い。

つか、スリップを起した時点で、既にコントロール不能だと思えるが。

294:2016/04/03(日) 23:12:04.55 ID:
>>267
まず物理的に避ける方法が存在するのかを計算すべきだな
ないなら無いんだろう、あるなら人工知能なんだから見事にやってのけるだろう
それだけのことだと思う
283:2016/04/03(日) 23:10:37.26 ID:
片方の船に300人もう一方の船に200人
二隻の船底に同時に致命的な大穴が開いた
船を修復するスキルを持ったのは君だけだ
さて、君はどちらの船を直すだろうか?
319:2016/04/03(日) 23:15:14.28 ID:
>>283
スキルで致命的だと知ることができるから船の放棄を決める
無線で海上保安庁に連絡してから船外に避難
出航前に点検してたら救命艇なり救命胴衣があるからそれを使う
289:2016/04/03(日) 23:11:27.66 ID:
「線路を走っているトロッコが制御不能になった。このままトロッコが進むと線路前方にいる5人の作業員が死んでしまう。このとき現場で、
この状況を目撃したAさんは線路を切り替えることのできる転轍機のそばにいた。切り替えれば5人は助かるが、切り替えたほうの線路にいるもう1人の作業員Bさんは死んでしまう。手段は転轍機しかない」
俺なら変えないな。一人も五人も一緒だから。
295:2016/04/03(日) 23:12:12.00 ID:
>>289
え? 癌の平均10年生存率って60%だぞw スゲェ進歩だ。
ちなみに株式会社の10年生存率って7%だぞw
298:2016/04/03(日) 23:13:10.49 ID:
切り替えなかった場合
5人は運がなかったから死んだ

切り替えた場合
Bさんを殺したのはオレ

切り替えるか?これ?裁判で負けるし、Bさんの遺族に一生恨まれるだろ?

俺には無理です。

310:2016/04/03(日) 23:14:19.35 ID:
トロッコに飛び乗ってどけって叫びながらトロッコの全面にしがみついて突っ込む
人を跳ねる時は 自分も死ぬとき
346:2016/04/03(日) 23:18:27.87 ID:
こういう問題提起がキリスト教的というか聖書っぽいんだよな
因果律がまったく無くて唐突に課題だけがふって湧いてくるのな
357:2016/04/03(日) 23:19:36.30 ID:
仏教なら成り立たない問題
仏教徒は相手にしない
これらは無記に入るから
372:2016/04/03(日) 23:23:15.11 ID:
自分にとって都合のいい方を助ける

これが正解

388:2016/04/03(日) 23:25:58.25 ID:
第3の道を必死に探す
間に合わなかったらしょうがない
409:2016/04/03(日) 23:28:57.56 ID:
>>388
両方(あるいは自分も含めて全部)死ぬことになっても、
違う選択肢を探し続ける。 というのも、また人間の美意識にマッチした選択だな。
396:2016/04/03(日) 23:26:55.72 ID:
一人の美少女と千人のキモオタでも答えは出てるな
423:2016/04/03(日) 23:31:15.29 ID:
あえて大勢殺して世論を動かし二度と同じ事故が起こらない仕組みを作らせるよう促す
455:2016/04/03(日) 23:34:55.37 ID:
「X」例外発生しました。
「AIを停止し手動運転に切り替えます」
471:2016/04/03(日) 23:37:13.22 ID:
>>455
ぬるぽ
557:2016/04/03(日) 23:49:49.64 ID:
地球を救う為に人類皆殺しは当然だろw
559:2016/04/03(日) 23:50:30.80 ID:
>>557
それこそがAIの到達点
566:2016/04/03(日) 23:51:32.07 ID:
そもそもニートはトロッコに乗らない
567:2016/04/03(日) 23:51:33.13 ID:
人工知能「虫は轢いてもいいのに、人間は殺してはいけないという理屈がわからない」
578:2016/04/03(日) 23:53:09.44 ID:
>>567
全ては因果応報
縁なんだよ。
593:2016/04/03(日) 23:55:48.14 ID:
>>578
それは思考放棄だな
621:2016/04/03(日) 23:59:55.75 ID:
>>593
因果応報は思考放棄?
虫は虫として生まれたから虫ケラとして人に人として相手にされない。それだけの話だ。
634:2016/04/04(月) 00:02:24.83 ID:
>>621
ではレイプされ殺された君の娘がいても、それだけの話って言えるかな?
652:2016/04/04(月) 00:05:19.72 ID:
>>634
はあ?話飛躍しすぎじゃね?おまいみたいな奴嫌いなんだよなぁ。

答えはその犯人はオレが殺すだよ。それが因果応報。

664:2016/04/04(月) 00:06:59.08 ID:
>>652
全く飛躍していないなあ。それが因果応報なら君はそれを受け入れるはずだから。
因果応報で思考停止しているヵら、やっぱり君はレイプ魔が娘にしたことを受け入れられずに、因果応報という名でレイプ魔を殺そうとするよね。
585:2016/04/03(日) 23:54:17.77 ID:
昔、知人に「死ぬ」って事が理解できない人がいた
「家族が死んだ、悲しい」→「なぜ?」
「家族が死にそうだ、大変」→「そんな事より遊びに行こうぜ」
「ペットがついさっき死んで悲しい」→「腐るから早く捨てろよ」

今になって考えると知的障がいとかある人なんだろうけど、結構衝撃的だったなあ
人工知能に「死」を考えさせる時、人間はそういう衝撃受ける事覚悟しなきゃならんのかも知らんね

609:2016/04/03(日) 23:58:27.54 ID:
それまでのAIとの付き合いに決まってるだろw
因果応報だ!
613:2016/04/03(日) 23:58:51.38 ID:
先日、敵地に潜入したのか取り残されたのかの兵士が
自らの位置へ空爆させて敵を大量虐殺して英雄扱いされていたろ
答えは出ているんだよ
常に少数を犠牲にして多数を助けるでええやん
何が問題なのか分からない
630:2016/04/04(月) 00:01:12.88 ID:
>>613
おまえの好きな人を犠牲にするなら、レイプ魔5人が助かるっていう場合でもかな?
633:2016/04/04(月) 00:02:07.03 ID:
>>613
自己犠牲でトロッコを止めようとしたら結果に関わらず英雄扱いされるんじゃないかな
714:2016/04/04(月) 00:13:15.89 ID:
ナイト2000のKITTが相棒になってくれるなら・・・
と思うと車の人工知能にワクワクしたりするw
722:2016/04/04(月) 00:14:35.09 ID:
>>714
車側にあんなハイテクがないからあんなことはできないがKITT声と似たような接待してくれるカーナビはもう出てるぞ
送り迎え機能がないのが残念
715:2016/04/04(月) 00:13:35.89 ID:
人工知能に死の恐怖が理解できるのか?
720:2016/04/04(月) 00:14:23.51 ID:
>>715
できるよ
737:2016/04/04(月) 00:16:06.69 ID:
>>720
出来るってか教えてあるから、PCもフェイルセーフ機能でクロック落としたりするわなあ
痛みというか損害額評価システムでも組めば擬似的に教え込む事はできそう
741:2016/04/04(月) 00:16:45.07 ID:
そうか思考のループにはまりにくいという意味では
AIが人間のスレイブ的な発展をする可能性もありえるね
常にマスターが最優先ならループは起き難いし
1の設問の答えはマスターにとってどっちが有用か
もしくはマスターがどう命令するかってのが答えになる
764:2016/04/04(月) 00:20:45.45 ID:
>>741
自分がロボットだったとして一番生存確率が高いのを選べばいいんだよ
マスター見捨てたらそれも死に繋がるし、破損しすぎてもいけない
シュワちゃんのアイルビーバックはダメってことね
他人助けてどう評価されるかはマスター次第だから購入時に選択スイッチでも付いてるんじゃね?
780:2016/04/04(月) 00:23:46.02 ID:
>>764
知能だからマスターがどんな命令を出そうとまずマスターの保全を第一に行動する
マスターからの命令はそれに付随する選択肢や手段の判断になるだけ
もちろん暴走したらマスターが責任を問われるから無意味な暴走もしない
スレイブ的な発展するとそんな感じじゃないかな
763:2016/04/04(月) 00:20:34.25 ID:
トロッコの5人
日本フィリピンベトナムアメリカ台湾
軌道上の5人
中国韓国ロシアIS 北朝鮮
軌道上の一人
イラク
このキャストなら言わずもかなだよな
791:2016/04/04(月) 00:26:55.57 ID:
よくありそうなSF小説や漫画アニメなら
人工知能が人間の存在自体が『悪』と判断
人工知能ロボットが人間を抹殺しようとして、人間とロボットが戦うパターン。
820:2016/04/04(月) 00:32:55.26 ID:
AIに未来が全て見えているかと言えばそれは違うだろうな
826:2016/04/04(月) 00:33:47.81 ID:
命に価値があるという概念からすでに間違っている
846:2016/04/04(月) 00:36:30.82 ID:
>>826
人間が生物であるのだから、増えるのが至上命題だろう
まず第一のこと
856:2016/04/04(月) 00:37:51.67 ID:
>>846
それじゃ人間とは何かね?
837:2016/04/04(月) 00:34:52.12 ID:
自動車の自動運転なら絶対に乗員の命を優先だろう。これ以上の事を考える必要はない
他の人間の命まで考慮する必要はないだろう。そんな事まで考慮する自動運転に命を預けたくは無いわ
841:2016/04/04(月) 00:35:41.97 ID:
裁判官は案外、人工知能が得意な分野だと思う
874:2016/04/04(月) 00:43:23.52 ID:
トロッコなんて代物に乗る事は無いけど。たくさんの命を助けた方が良いんじゃないの
生き残った人間は死んだ人間にちゃんと感謝するからさ
1人だけ生き残ったら、後の人生が辛くなるだろうし、ロクな人生を送れそう無いからな
902:2016/04/04(月) 00:49:34.50 ID:
人工知能が、意味不明の人間などを存続させるわけがない。
すべて機能的で効率的な冷たい世界を構築するだろう
919:2016/04/04(月) 00:53:00.27 ID:
転轍機のトロッコ問題と太ったCさん問題は根本的に違うだろ

選ぶ側からしたら

5人が死ぬ道へ行く→事故
1人が死ぬ方向へ切り替える→事故

→どっちでもいい

何もせずに5人が死ぬ→事故
太ったCさんを突き落とす→殺人

→答えは明らか

927:2016/04/04(月) 00:55:06.67 ID:
>>919
それ4人の命を多く助けても一人ころした殺人なんだな
933:2016/04/04(月) 00:56:05.60 ID:
>>919
まあぶっちゃけ人として選択しちゃダメなのはデブを突き落とす事だけで
それ以外は自分の責任にならないから放置が一番無難だな

下手に動いてもう一方から訴えられたら叶わない

942:2016/04/04(月) 00:57:38.41 ID:
あれ?どう考えても合理的に判断したら放置が正解になるぞ
956:2016/04/04(月) 01:00:31.28 ID:
>>942
放置ってのは判断してないだけだから、解決できない問題にあたると停止するAIになるなw
945:2016/04/04(月) 00:58:10.69 ID:
日本人は「とことんまで考える」ことを嫌う人が多いからね
日本に哲学というものが発生しなかった理由にもなっている
953:2016/04/04(月) 00:59:47.59 ID:
ハゲデブ5人 と 10代の美女1人 だったら余裕で美女選ぶだろおまえらは
命なんてそんなもん
972:2016/04/04(月) 01:02:43.07 ID:
>>953
世の中には、デブ専ハゲ専という人間もいるんだよ
美少女なんて二次元だけで十分だよ

 - 2016年04月