Posts

【論文メモ】Do Transformer Modifications Transfer Across Implementations and Applications?

📅 2022/6/27 · ☕ 1 min read

Transformerの改善案は大量にあるが, 本当に有効なのはどれだけあるの？という論文結論 (有効な改善方法) 活性化関数: GLU+GeLU/Swish 正規化: RMS Norm パラメタ共有: デコーダの入出力における埋め込み表現を共有すると良いアーキテクチャ Mixture of Experts Transformer Synthesizer Product Key Memory ...

#論文

PPO

📅 2022/6/27 · ☕ 0 min read

...

#post

【論文メモ】CP-GAN

📅 2022/6/27 · ☕ 1 min read

todo ...

#論文

【論文メモ】CLIP

📅 2022/6/27 · ☕ 1 min read

CLIPによって, image↔textの特徴量変換が容易になったと言える → ViLD: Open-vocabulary Object Detection via Vision and Language Knowledge Distillation ...

【論文メモ】HAMT - History Aware Multimodal Transformer for Vision-and-Language Navigation

📅 2022/6/26 · ☕ 1 min read

パラメタの更新にActor-Criticを使用強化学習と模倣学習の両方を組み込んでいる ...

#論文

【論文メモ】HAMT - History Aware Multimodal Transformer for Vision-and-Language Navigation

TD法

📅 2022/6/26 · ☕ 1 min read

DP法とMC法の中間 MCの場合, 終端までわかってないと使えなかったなので, 1ステップの状態に対してサンプリングを行い, 評価→行動引用: ゼロから作るDeep Learning ❹ ―強化学習編 ...

DQN

📅 2022/6/26 · ☕ 1 min read

Q学習は推定値 $E_t$ を使って推定値 $E_{t+1}$を更新する (これをブートストラップと呼ぶ) ゆえにQ学習は不安定なのだが, NNを加えると更に不安定になりやすい DQNでは, 推定値 $E_t$ と推定値 $E_{t+1}$の相関が強くなりすぎないように「経験再生」と「ターゲットネットワーク」と呼ばれるものを導入する経験再生過去の状態や行動 ...

MC法

📅 2022/6/26 · ☕ 1 min read

モンテカルロ法二次グリッド上の経路探索問題なら, 状態 $s$ は $(i,j)$の各マス方策 $\pi$に準じて $N$回行動 $a$をサンプリング移動先の状態 $s_k$と収益 $G_t(s_k)$を記録終端まで収益 $G_t(s_k)$を計算最後に各状態 $s$の収益 $G_t(s_k)$の平均を取る [* 行動 $a$をサンプリングしている点に注 ...