3.5実行 ( 訳注 : 汎用処理 ) するための学習 ( 原文 : Learning to Execute ) (LTE)
? ry いるように、コンピュ ry ためのモデ ry タスクに ry も評価 ry 。
シーケンスツーシーケンス学習問題の別のクラスとして、 ( ZS14 )で提案されているものとしての,コンピュータプログラムを実行するための学習の為のモデルの能力を示す各タスク,についてのユニバーサルトランスフォーマーも我々わ評価します。
これらのタスクには、プログラム評価タスク(プログラム、制御、追加)、記憶タスク(コピー、ダブル、リバース)が含まれます。


        コピー       ダブル       リバース     ? 逆
     char-acc seq-acc  char-acc seq-acc  char-acc seq-acc
モデル
LSTM    0.78   0.11   0.51    0.047    0.91   0.32
Transformer  0.98   0.63   0.94    0.55    0.81   0.26    ? トランス
UT        1.0    1.0      1.0   1.0      1.0   1.0      ? ユニバーサルトランス

表5:文字レベル( char-acc )およびシーケンスレベルの精度( seq-acc )は、最大長が55のMemorization LTEタスクの結果となります。

 

       プログラム    コントロール     Addition     ? 添加
     char-acc seq-acc  char-acc seq-acc   char-acc seq-acc
 モデル
LSTM    0.53   0.12   0.68   0.2     0.83    0.11
Transformer  0.71   0.29   0.93   0.66   1.0   1.0    ? トランス
UT      0.89   0.63     1.0     1.0     1.0   1.0    ? ユニバーサルトランス

表6:プログラム評価LTEタスクの文字レベル( char-acc )およびシーケンスレベルの精度( seq-acc )は、最大ネスト2および長さ5の結果となります。