次の(1), (2), (3)をみたす R 上の C^∞ 関数 f(x) と g(x) が存在する。

(1) lim_{x → ∞} f(x) = lim_{x → ∞} g(x) = +∞
(2) lim_{x → ∞} f'(x)/g'(x) は存在して有限値
(3) lim_{x → ∞} f(x)/g(x) は存在しない

例

f(x) = x + sin(x)*cos(x)
g(x) = exp(sin(x)) * f(x)

と書いてあるのですが、

g'(x) = exp(sin(x))*(f(x) + 2*cos(x))*cos(x)

なので、

lim_{x → ∞} f'(x)/g'(x) は考えられないと思います。

これはどういうことなのでしょうか？

lim_{x → ∞} f'(x)/g'(x) = a の定義は、

任意の正の実数 ε に対して、

K < x ⇒ |f'(x)/g'(x) - a| < ε

となる実数 K が存在する

です。

K < x かつ g'(x) = 0 となるような x がかならず存在しますので問題ではないでしょうか？