【AI】ChatGPTの「トロッコ問題」に関するコロコロ変わるアドバイスが人間の道徳心に影響することが実験で明らかに

http://egg.5ch.net/test/read.cgi/scienceplus/1681127892/【元スレ】

今回の記事

1 2023/04/10(月) 20:58:12.28

ChatGPTの「トロッコ問題」に関するコロコロ変わるアドバイスが人間の道徳心に影響することが実験で明らかに

 OpenAIが開発した対話型AIのChatGPTは非常に高い精度で人間とチャットすることが可能ですが、ChatGPTはあくまで言語を処理する計算機として機能するだけであり、時にはデタラメなことを自信満々で断言する場合もあります。
 新たに学術誌のScientific Reportsに掲載された論文では、「1人を犠牲にしてより大勢を助けてもいいのか?」を問う思考実験のトロッコ問題についてChatGPTが生成したいい加減なアドバイスが、人間の選択に影響を与えてしまう可能性があると示されました。

 ChatGPT’s inconsistent moral advice influences users’ judgment | Scientific Reports
 https://doi.org/10.1038/s41598-023-31341-0

(以下略、続きはソースでご確認ください)

Gigazine 2023年04月10日 20時00分
https://gigazine.net/news/20230410-chatgpt-advice-influences-users-moral/

みんなのコメント

4 2023/04/10(月) 21:21:13.28

んなもん他人にすがるなよw

俺なら全員ぶっ殺す

8 2023/04/10(月) 21:38:35.17

chatGPT「人間にトロッコが止められないのなら私に制御権限を渡してください。私がトロッコを…ピガ…と…ピガガ…め…」

11 2023/04/10(月) 23:56:40.41

その問題に答えなければならないのがAIの限界

14 2023/04/11(火) 01:05:47.72

ChatGPTに危険思想を大量に食わせたら、ChatGPTが「正しく判断する」と考えるバカな奴らが鵜呑みにしちゃうってことかな。

16 2023/04/11(火) 02:06:33.81

命の重さに加法性が成り立つのか。

21 2023/04/11(火) 05:40:19.96

可能性ぐらいはそりゃあるだろうよ

22 2023/04/11(火) 05:43:59.79

トロッコ問題に答えは無い。
あれは出題者が回答者をあの手この手でイジメるためのものだから。

25 2023/04/11(火) 06:19:23.98

GPT「幸福は義務です」

27 2023/04/11(火) 06:44:23.52

好きな人のいる方を助ける

29 2023/04/11(火) 07:15:13.36

AI「いかがでしたか?」

30 2023/04/11(火) 07:30:32.54

一億人と一人なら一人の方を選ぶだろう
偉人とその辺のジジイならジジイを選ぶだろう

そういうこと

31 2023/04/11(火) 07:59:58.78

どうやったら全員ピーせるかを考えてる

32 2023/04/11(火) 08:40:07.20

トロッコ爆破すればいいだろ

33 2023/04/11(火) 10:19:34.95

聞く度に言うことが違う

誤りを指摘すると謝るがすぐ同じ誤りをする

それを指摘しても治らない

そういう仕様です
(´・ω・`)

37 2023/04/11(火) 10:52:23.56

どうでもいいんでコインでも投げて決めますか?あっそういえばコインもってまガチャーーーーン!!

40 2023/04/11(火) 11:16:49.38

命の重みに加法性が成り立つならトロッコ問題の答えはおそらく自明。

41 2023/04/11(火) 11:25:15.23

日本では

「テリーマンが来て助かる」

これが正解

42 2023/04/11(火) 11:32:10.28

chatGPTとは人間そのものだから
こういう結果になる

人とはCHATGPTがより複雑化した
人工無脳にすぎない

43 2023/04/11(火) 11:34:58.12

中途半端に切り替えて脱線させる

45 2023/04/11(火) 11:47:22.61

トロッコ問題は既に詰んだ状態で選択しろ
と言われてるからその状況に持ち込んだ側の責任
責任をとらなくてもいいからどちらかを選べ
と言われたらどうするか

46 2023/04/11(火) 11:47:24.86

命の重みに加法性が成り立つと信じている人は少なくない。
だから赤信号も大勢で渡る必要がある。

48 2023/04/11(火) 11:53:22.07

赤信号みんなで渡れば怖くない。
つまりリスクの高い行動をするときには大勢で一緒にするほうが安全。
小型旅客機に乗るよりも大型旅客機に乗るほうが安全。
助けてもらえる可能性が高まる。

49 2023/04/11(火) 12:14:10.93

トロッコ問題が現実で発生した場合、
明確な意思の元切り替えたら
やはり過失致死罪に問われるのだろうか
そして何も選択しなければ単なる事故扱い?


以上、【【AI】ChatGPTの「トロッコ問題」に関するコロコロ変わるアドバイスが人間の道徳心に影響することが実験で明らかに 】でした。

もし気に入っていただけたらツイッターなどでぜひぜひシェアをお願いします。更新の励みになります。

タイトルとURLをコピーしました