qiita.com この様に沢山と喧伝されてきましたが... 申し訳ございません. これから,全員が手のひら返しをする姿が予測できます. gpt-2でも実はcausal LMを利用しています. 音声および画像認識では明確にattentionは使われなくなってきています. ViTなどが出て…

実装できるから時間があればやりたいな, pythonで.

下記の論文を参考にしました. https://arxiv.org/pdf/1710.10903.pdf ICLR 2018で提出されたもののようです. まず,abstractですが「スペクトルベースのグラフニューラルネットワークのいくつかの重要な課題に同時に対処し、モデルを帰納的にも容易に適用でき…