AI, AC and Morality
人工知能、人工意識と道徳
"我々は人工的な意識を生み出すことを目指すことも、そのリスクを負うことすらもすべきではない。我々は向う見ずに、宇宙に存在する苦しみの総量を増加させかねないためである"
―トーマス・メッツィンガー
―Abstract―
AIの発展は多くの重要な道徳的問題を提起する。AIの権利論争は不可避であり、それに伴い普遍的なアニマルライツの議論を無視することは不可能であることが決定的になる。また、世界から苦しみを取り除くために、我々の最良のツールとしてのAIの役割も必須のものになるだろう。だがそれらを差し置いて、最も重要な問題は、AI(artificial intelligence:人工知能)の先、AC(artificial consciousness:人工意識)の誕生である。アンドロイドが苦しみを取り除くためのエージェントであるだけでなく、それ自体が苦しみを感じる存在となってしまうことは、我々が最も避けるべき悲劇の一つである。そういった問題を含め、AIとAC、そしてそれに関連する道徳的問題を取り上げる。
―Related Articles―
BAANシナリオとは
BAAN: Benevolent Artificial Anti-Natalism (慈善的人工[知能による]アンチナタリズム)とは、哲学者トーマス・メッツィンガー(Thomas Metzinger)がEdgeのエッセイで提唱した、AIがもたらしうる未来のシナリオの一つである。
―Related Videos―
人工知能によるアンチナタリズム|サム・ハリスとトーマス・メッツィンガー:BAANシナリオについて 他
2017年9月10日放送のサム・ハリスのポッドキャストより「BAAN: Benevolent Artificial Anti-Natalism (慈善的人工[知能による]アンチナタリズム)」について語っている部分を中心に ・意識の問題 ・自己の起源 ・喜びと苦しみの非対称性 ・存在バイアス ・野生動物の苦しみ ・AI(人工知能)の未来 ・ヘドニズム的使命的な思想 ・新無神論 ・スピリチュアル ・意識の倫理 など、この部分だけでも非常に濃い内容