ロボットが日常生活の中で当たり前に存在する未来はすぐそこに来ている - 「賢人論。」第66回石黒浩氏（後編）
http://lite.blogos.com/article/312385/

コンピュータに「意識」を植え付けるなんて不可能に近い

みんなの介護　将棋や囲碁の世界でAIソフトが名人級の棋士を負かすなど、人工知能の技術が大きな進歩を遂げています。介護の現場でも生かされることはあるでしょうか？

石黒　よく言われるのは、コンピュータは人間に命令されたことを忠実に実行することはできるけど、命令の仕方を間違うと、とんでもないふるまいをすることもあるし、正確に命令しないとまったく動いてくれない存在だということ。

現時点での人工知能はまだその段階にとどまっているし、専門的な知識を持った人でないと使えない。ましてや高齢者にとっては、使いこなすことなんて到底できないシロモノです。

この段階を飛び越えるには、コンピュータが自らの意図や欲求に従ってものを考えるようになることが必要です。

みんなの介護　コンピュータが「意識」を持つということですね？

石黒　いや、人間が持っている「意識」さえ、どのようなメカニズムから生じているかがわからないくらいですから、コンピュータに「意識」を植え付けるなんてことは不可能に近いことです。

その前の段階として、人間に対して自発的に「こんなことを話してみたい」という意図や欲求を起こさせる仕組みが必要だということです。
コンピュータに意図や欲求が生じるということは、人間側の「こんなことをしてもらいたい」という意図や欲求も先回りして理解できるということになります。
そうなれば、コンピュータは「意識」を持った存在にかなり近づけるでしょう。