>(x-1)(x^2+x+1)/3=y(y+1)の場合は「置き換えて」 x-1=yとするんでしょう。
その置き換えができる、と思うところが間違いの根源です。
ちゃんとx-1=y以外の場合も考慮しましょう。

(x-1)(x^2+x+1)/3=(y+1)yとしても、x,yが正の有理数の場合は両辺は一致しません。