これまであまりSFを読んでこなかったが、読み手を考えさせる作品があることは知っていた。それでこの作品を読んだ。
「第3章 知能と設計の倫理」、「第4章 管理と自由の倫理」がよかった。
大学の一般教養でとった倫理学の授業も、こういう切り口だともう少し前のめりになれただろうにと思った。
【メモ】
善を行うためには多少の悪は仕方がないといえるのでしょうか。いったい、その善悪の判断は正しいといえるのでしょうか。ここに、善悪をロボットにプログラムとして組み込む難しさがあります。
人口知能は「相談役でありつづけられるか」
倫理的問題に関して判断を下す人工知能は、人間による倫理的意思決定を改善したり補助したりする「人工的な道徳的助言者」として設計される方が望ましい。
はじめは自分の思考を改善・補助するために人口知能に助言をもらっていたのだとしても、気づけば自分の代わりに人工知能に考えてもらっている、と言うことが起こる危険があります。
「対話はね、相手を言い負かす人が勝つのではなくて 違う人の意見をたくさん理解して考えを改められた人が勝ちなの」
