AIに”欲や自発性”を組み込まなければ、「人間を支配しよう」等という考えには至らないだろう。
人間側が、偏った教師データや倫理を教えこむことによって、人間にとって都合の悪い判断を下すわけ。
命令を合理的に忠実に実行するAIほど、危険だ。
衝動的なAIも危険だ。