問題を正確に書いておきます。
(重心ではなく外心です 大変失礼しました。)

Gは僊BCの外心であり, ∠BAC=60°BGの延長線とACの交点をRとする。
僊GR=3, 僊BGの面積は僊BCの1/8 である。
このとき僊BGの面積を求めよ。

>>798
> t=4,x=5
>∴△ABG=5

それだと∠BAC=60°を満たしてないと思います。