xx+xy+yy = cc という式は、ある三角形で、長さ
x, y の2辺の間の角が120°であるとき、その角に対す
る辺の長さがcという関係である。
a=5, b=6, c=4 を3辺とする⊿ABCがあ作られる。
そこで原点Oから、互いに120°をなす3本の半直線を曳き、
それらの上に、
　OA = x,　OB = y,　OC = z,
となる点 A,B,C を1つずつとる。
　⊿OAB = (1/2)xy sin(120ﾟ) = (√3 /4)xy,
　⊿OBC = (1/2)yz sin(120ﾟ) = (√3 /4)yz,
　⊿OCA = (1/2)zx sin(120ﾟ) = (√3 /4)zx,

(3)　　　S = ⊿ABC = (√3 /4) (xy+yz+zx),
Sはヘロンの公式により　　(a=5, b=6, c=4)
(4)　　　S = (15/4)√7,
で表わされる。つぎに題意の3つの式を加えると
(5)　　　2(x+y+z)^2 - 3(xy+yz+zx) = aa+bb+cc = 77,
である。これに (3) を代入して
(6)　　　x+y+z = √{(aa+bb+cc+4√3･S)/2},
をうる。また … (中略) … 答
(9)　　　x = {(√3)(bb+cc-aa) + 4S}/√{6(aa+bb+cc+4√3･S)},
をうる。
数セミ増刊「数学の問題」第2集, 日本評論社 (1978)
●110

以上で
　x + y + z = √{(77+15√21)/2} = 8.53635271718
　xy + yz + zx = 5√21 = 22.91287847478
は求まったが、
　xyz = 19.01351176322
を出すのは面倒でござる。

注)　第二余弦定理から
　cos(A) = cos(C)^2 = 9/16,
　cos(B) = 1/8,
　cos(C) = 3/4,
　(A=π-3C, B=2C)
だけど、これは使わないか…