GPT-3の成果でニューラルネットの量を大規模にすると質も伴ってくることが示された。
この量と質の比例関係はまだ天井が見えておらず更に続く可能性は高い。
そして重要なのは、この大規模化の先にAGIはあるのかどうか？
高い能力を見せたGPT-3だが、それでも人間の脳に比べれば千分の一程度の規模しかない事を見ると可能性はゼロではなさそうだ。
因みに松尾先生はそれに世界モデルを繋げば良いのでは？とおっしゃっている。
https://ainow.ai/2020/08/13/226994/
一番下の項目。

可能性の多少はともかく、今は初めてAGIへの可能性ある道が垣間見えた歴史的瞬間かもしれない。
その道は幻で終わるかもしれないが、見えた以上は各国各企業による大規模化への競争が激化するのは必然。
それにたとえAGIに至らなくても量と質が比例していると分かった以上は大規模化自体は進む。
当面の注目はGoogleの動向だろう。
GPT-3に使われているTransformerを開発したのはGoogleだ。OpenAIに注目を奪われたGoogleは巻き返しに燃えているはず。
また中国もこういう力任せの競争は得意だろう。
日本もスパコンの利を生かして競争に参戦しないと致命的遅れになりかねない。