OpenAIのChatGPT などの大規模言語モデルと数学の証明について
>>593

4. 大規模言語モデル

(略)
さて、ここで疑問に思うのは、これらのシステム(注.OpenAIのChatGPT など)が
現在、数学を行うことができるのかということです。

ChatGPTに素数が無限に存在することを証明するように指示すると、（インターネット上で学習されているため）ユークリッドの証明の変種を喜んですらすらと答えるでしょう。
1 + n i=1 π が合成数である場合の扱いには多少混乱するかもしれませんが、インターネットで見つけたランダムな証明も、この時点では少し混乱している可能性があると考えられます。
しかし、7で終わる素数は無限に存在するという、はるかに難しい結果の証明を求めたらどうなるでしょうか？この問題に直面した学部1年生のように、システムは
素数が無限に存在するという既知の証明について考え、それをこの状況に一般化しようとします。残念ながら、10 i π + 7 という形式の任意の数には必ず7で終わる素因数が必ず存在するというのは真実ではありませんが、それでもモデルは、学部生のように、自信を持ってそうであると主張するのを止めません。
さらに悪いことに、7で終わる偶数が無限に存在することを証明するように求められた場合、システムは同様の戦略を試みて、意味不明な段落を書く可能性があります。