あほか
c=λνの関係があるから
m = √(((hν/c)^2 - p^2) / c^2)
= √(((E/c)^2 - p^2) / c^2)
= √(((hν/c)^2 - (h/λ)^2) / c^2)
= √(((hν/c)^2 - (hν/c)^2) / c^2)
= 0
具体的数値で計算するまでもない

お前の間違いは２か所。λνとcにわずかな差がある（つまり波長と振動数が対応していない）ことと、
>エネルギーE = hν = 1.9987820871e-13[J]
これ、一桁間違ってる。仮数部の数字も少し違う。
正しくはE=1.987820871e-14 [J]

正しく対応する波長と振動数で計算すれば当然m=0[kg]の結果が出る