JavaScriptを有効にしてください

What Does BERT Learn about the Structure of Language?

 ·  ☕ 1 min read
  • BERT の各層はそれぞれ異なる言語学的情報を捉えている
  • 中間層の表現は転移学習に用いるには有用
  • 後半に行くにつれてより高次元の意味的な情報を捉えている

Sentence BERTSBERT-WK

https://aclanthology.org/P19-1356/

共有

YuWd (Yuiga Wada)
著者
YuWd (Yuiga Wada)
機械学習・競プロ・iOS・Web