例えば層の数も各層のノードの数も数個しか無いニューラルネットワークは
モデルとしては簡単な部類なんだと思うが
それでもどの程度学習すればどの程度分かるかは数学的には求められていないんじゃないか
あくまで経験則で分かってるだけで
それが悪いとは言わんが数学板で経験則ばかり述べられましても