>△PQRの面積が最大となる△ABCを1つ求めよ

と書いてあるので、プログラムが極大値を検出しているかもしれないので
3Dグラフと等高線を描いてみた。
https://i.imgur.com/zBDiONo.png
https://i.imgur.com/zBDiONo.png
三角形の種類(三辺の組み合わせ)は1種類のようである。