昔の国家公務員試験の数学区分の専門試験の問題です
解答がないので正解が分かりません
解説をお願いします

https://i.imgur.com/QEiWsud.jpeg