| x, yを整数として、f(x, y) = x^2-(n^2+1)y^2とおきます。 y = 0の場合、f(x, 0) = x^2なので、|f(x, y)| < 2nという条件に関わらず題意は成立します。 以下、y ≠ 0つまりy^2 ≧ 1とします。
0 ≦ |f(x, y)| < 2nなので、nは正の整数です。
|f(x, y)| < 2n ⇒ -2n < x^2-(n^2+1)y^2 < 2n ⇒ (n^2+1)y^2-2n < x^2 < (n^2+1)y^2+2n ⇒ (n^2+1)-2n/(y^2) < (x/y)^2 < (n^2+1)+2n/(y^2) ⇒ (n^2+1)-2n ≦ (n^2+1)-2n/(y^2) < (x/y)^2 < (n^2+1)+2n/(y^2) ≦ (n^2+1)+2n ⇒ (n-1)^2 < (x/y)^2 < (n+1)^2 ⇒ n-1 < |x/y| < n+1 ⇒ n-1 < |x|/|y| < n+1 ⇒ (n-1)|y| < |x| < (n+1)|y|
よって、整数rを|r| < |y|として、|x| = n|y|+rとおけます。 また、f(±x, y) = f(|x|, y)です。
f(x, y) = f(|x|, y) = f(n|y|+r, y) = (n|y|+r)^2-(n^2+1)y^2 = ((ny)^2+2n|y|r+r^2)-(ny)^2-y^2 = 2n|y|r+r^2-y^2 = r^2+(nr)^2-((nr)^2-2n|y|r+y^2) = (n^2+1)r^2-(nr-|y|)^2 = -f(nr-|y|, r)
つまり、|f(x, y)| = |f(n|y|+r, y)| = |f(nr-|y|, r)|と変形できます。 |r| < |y|だから、この変形を繰り返していけば、いずれr = 0に到達します。 f(z, 0) = z^2なので、|f(x, y)| < 2nであれば|f(x, y)|は平方数と言えます。
|