だって、n=1で (4+2√2)-(a+b√k) =(4-a) + (2√2-b√k)
が整数となるには、b√k =2√2 しかないでしょ。

そこでn=2とすれば、
(4+2√2)^2 - (a+2√2)^2 =24 - (a^2+8) +(16 - 4a)√2
が整数となるのはa=4しかありえない。