Det[A]= -(b-1)^2 ( 3a^2-2b-1)

だね