回答。
コパイロットに限らず生成AIに共通してハルシネション（幻覚）や同調バイアスは深刻な課題です。
フランシスコ教皇は2025年４月に亡くなっているのにそれにも関わらず生きてるって言い張り間違えを認めないのは構造による欠陥です。

ウソつき頑固に認めない理由４つ。
コメントにあわせすぎる即ちお世辞や同調。

一度ウソの事実を出してしまうと永久に間違えを認めない頑固な状態になります。

リアルタイムのニュースを理解していません。言葉の繋がりで文書を作っているためフランシスコ教皇の古いデータに引っ張られ最新訃報を反映出来ず自信満々に間違える。