>>268 関連
マイクロソフト「Tay事件」を思い出すね
https://ja.wikipedia.org/wiki/Tay_(%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD)
Tayとはマイクロソフトによるおしゃべりボットで、Twitter上で書き込むボットとして2016年3月23日にお披露目された[1]。

事件[ソースを編集]
Tayは1日で96,000以上のツイートを行ったが[7]、2016年3月25日ごろマイクロソフトは「調整」と称して一時的にTayのアカウントを停止し、「複数のユーザーによってTayの会話能力が不適切に調教され、間違った方向のコメントをするようになった」と発表[8]、結果的にこれが原因でヘイトスピーチや性転換したかのようなメッセージを投稿するようになったと推測される[5]。

人工知能研究者であるローマン・ヤンポルスキー（英語版）は、Tayが不作法になったのは必然的だったとし、Twitterユーザーによる意図的な攻撃を覚えてしまったことと、マイクロソフトがどういう行動が不適切か判断させることを怠ったためと論じていて、
IBMのワトソンがアーバン・ディクショナリー（英語版）を覚えてしまったことで、下品で不敬な言動になった問題を引き合いに出している[2]。