言語のみで事前学習されたトランスフォーマーのごく一部を微調整するだけで、画像認識などで驚異的な汎化能力を示すことが分かってきました。「汎用人工知能」とまでは行きませんが、ここで紹介した論文、最近読んだ中ではそこに最も近づいたものだと思っています
https://ja.stateofaiguides.com/20210315-frozen-pretrained-transformer/
https://twitter.com/stateofai_ja/status/1371698963422711811
https://twitter.com/5chan_nel (5ch newer account)