人間の知能が本能、衝動、興味の次に来るものであるなら、人工知能が本能を生み出すことができると私たちが考える根拠は何でしょうか?
私たちは AI を恐れているのでしょうか、それとも AI に興味を持たせることができる人間を恐れているのでしょうか。AI に最終的に与えられる倫理、あるいは倫理の欠如を恐れているのでしょうか。
倫理は科学が及ばないところでのみ必要です。動機のない(利己心がなく、倫理の必要がない)単一の AI が生活を飛躍的に向上させることはできないでしょうか?
おそらくそうなるだろうが、最終的に異なる倫理観を持つ複数の AI が存在することになった場合、それらの AI は、同じ人間の残虐行為をはるかに効果的に再現することになるのではないだろうか。他のロボットよりも大きなロボットが、自分の意見を強制的に押し付けることになるのではないだろうか。