http://www.huffingtonpost.jp/katsue-nagakura/ai-ethics_b_16904442.html

東京大学名誉教授の西垣通氏は、

「（1950年代の）人工知能の第一次ブームではコンピュータは間違えない、正確性があるという前提があったが、実際には世の中は論理で解決できる問題はとても少ない。
そこで、（1980年代の）第二次ブームも挫折した。
一方で、（ディープラーニングの貢献が大きい）今の第三次ブームのポイントは、コンピュータは間違えるものだということ。
機械学習はデータと統計で結果を出すから、間違えることもある。
にも関わらず、世間では人工知能は間違えない、正しいものであるという信念があるのが問題ではないか」

と話した。

人工知能への懸念は、その「自律性」もそのひとつだ。
機械が「自律性」を持つと、人間の判断なしで機械が決定を下し、人間による制御ができなくなるのではないかという懸念があるためだ。

これについては西垣氏は「機械は過去のデータを元に動くもの。
だから、全く新しい考えが出てくるわけではなく、人間と機械の役割分担ははっきりしている」と言う。