>>113
古典的には、ガウス法とか ガウス・ジョルダン法とか
しかし、行列計算をコンピュータ内でやるようになって
それを、いかにうまく処理するか？

アルゴリズムが問題なっています。
大型コンピューターの時代からずっとね。
下記、JICFuS 計算基礎科学連携拠点の記事でも見てください

https://tomari.org/main/java/gauss.html
TOM's Web Site
連立1次方程式の解（ガウスの消去法）

http://www5d.biglobe.ne.jp/~tomoya03/shtml/algorithm/GaussJ.htm
§Algorithm§
☆連立方程式の解−ガウス・ジョルダン法−☆

http://www.jicfus.jp/jp/promotion/pr/mj/2013-1/
JICFuS 計算基礎科学連携拠点
計算科学の推進 > 広報 > 月刊JICFuS
「連立一次方程式」を高速に効率よく解くために 2013.3.19 筑波大学 今倉 暁 研究員

近年では、問題のサイズがどんどん大規模になっています。そのため、扱っている問題を計算するにあたり最適なアルゴリズムや高速化の手法をみつけることが重要です。中でも、計算時間の大半を費やしている連立一次方程式の解を高速で効率よく求めることができれば、宇宙や原子核など様々な分野の研究の進展に役立ちます。
筑波大学計算科学研究センター研究員の今倉 暁（いまくら・あきら）さんは「連立一次方程式と聞くと難しく思うかもしれませんが、小学校で習った「鶴亀算」と同じなのですよ」といいます。今倉さんは、超新星爆発シミュレーションにおける連立一次方程式を解くための手法を研究しています。