＞数学ではZは1つ「いわゆる整数の全体」というものとして考えます

「いわゆる整数の全体」というのは、正しくは
「どの「整数の全体」のモデルにも存在する、標準的整数の全体」
のことです。つまり整数であることが証明できる元のこと

実はそのような元だけに限定する公理系というものが
一階述語論理ではどうしてもできない、というのがポイント

＞無数にあるモデルの1つを固定して理論を組み立てるのは普通の数学では一般的なのです

実は理論では固定してないのが普通の数学では一般的なのです
そして、モデルが１つしか無いようにみえるのは、
どのモデルでも存在する元だけしか見てないからなのです

あるモデルには存在するけど、別のモデルには存在しない超準的整数なんて
見ないということであればモデルが一つしかないと思い込めるわけです