関数 f(z) が領域 D 上で正則でない場合、 z0 = h(t0) で微分可能でない可能性がある。
その場合、公式が成り立たないと言っているのでしょうか?

いずれにしても、そんなこと書く必要はないですよね。微分不能なら f'(h(t))*h'(t) なんて存在しないわけですから。