https://yuiga.dev/blog/tags/bert/ Recent content in BERT on 行李の底に収めたり[YuWd] Hugo -- gohugo.io ja ©2023, All Rights Reserved Wed, 30 Mar 2022 12:59:33 +0900 https://yuiga.dev/blog/posts/vilbert/ Wed, 30 Mar 2022 12:59:33 +0900 Wed, 30 Mar 2022 12:59:33 +0900 https://yuiga.dev/blog/posts/vilbert/ BERT同様, 転移学習モデル なので, IMGトークンやCLSトークンを導入する 画像の埋め込みはどういう実装…? 例えばViTだと, 普通に行列 $E$を掛け合わせている or ResNetを用いる (これをハイブリット方式と呼ぶ) 各パッチをEで埋め込み、CLSトークンを連結したのち、位置エンコーディングEposを加算して YuWd (Yuiga Wada) featured image BERT 論文