科学記事を自動で生成するAI「Galactica」がわずか3日で公開停止へ、入力内容次第で「ウソ記事」を生成可能だった
https://gigazine.net/news/20221121-meta-ai-galactica-pulled/

＞Galacticaを使ってみましたが、困りました。
いずれも、間違っていたり、偏っていたりするのですが、正しく、権威あるように聞こえました。

Galacticaの科学知識は正確でも、プロンプトとして人間が入力する内容に間違いがあった場合、
Galacticaはその正誤を判別することができない