>>50
１については、
DH鍵交換の行列版という感じに見える。
>>1の2つめのURLに書いてあるが、
M_A = S^{-k_A}Q^{n_A}S^{k_A}
M_{BA} = S^{-k_B}M_A^{n_B}S^{k_B}
といった具合。ここでSやQはあらかじめ公開された正方行列で
成分はmod p（pは公開された素数）で扱う。

２は
正直操作の意味がよく分かっていない部分があるが
(1) p_i (i=1 or 2)を使ってまず M_{AB} の成分を書き換えた行列 A_i を作る。
　　（行列のサイズが2の場合の計算法が書いてるけど、もっと大きいサイズのときどうするかは不明？）
(2) 共通の初期ベクトルにどんどん A_i を作用させていきベクトル列を作る。
(3) 出来たベクトル列の各成分をバイナリ化し、
　　各成分の一部をカットしてから並べてビット列 W_i を作る。
(4) 最後に W_1 と W_2 のXORを取って疑似乱数ビット列とする。
という流れのようだ。少なくともRSAのような感じではない気がする。
（なぜ2つのビット列を作ってXORするのかは暗号に詳しくないのでよくわからない。
単に複雑にするため？）