http://i.imgur.com/JZDUaBE.jpg

これは東大の入試の1部らしいのですが、これはどういった公式を使う問題なのでしょうか?