.dev/blog
技術ブログ.
【論文メモ】NeRF
· ☕ 1 min read
Positional Encoding 低周波成分である (x,y,z,θ,ϕ)から高周波成分である (R,G,B,D)を復元するため, 以下に示すPositional Encodingを通したあとにMLPに入力 γ(t)=(sin⁡(20tπ),cos⁡(20tπ),⋯,sin⁡(2Ltπ),cos⁡(2Ltπ)) この機構をNTKによって実験した論文→ Fourier Features Let Networks Learn High Frequency Functions in Low Dimensional Domains このPositional Encodingはフーリエ特 ...

【論文メモ】NeRF
noteのバックアップを取る
· ☕ 1 min read
現段階でそういうのはないらしい ということで作った → noteバックアップ 記事→ noteをバックアップ・エクスポートするWebサービスを作った (画像可・他ブログへの移行可) 「個人ブログ/Qiita/Zenn/Scrapbox/note 使い分け」を書いているときにふと思いついた そのまま勢いで日曜丸一日を潰して作ってしもうた 今 ...

noteのバックアップを取る
ar5ivのコードを読む
· ☕ 1 min read
https://github.com/dginev/ar5iv 前提: arxivは投稿時, texをアップロードしなければならない ar5iv: 裏でクローラを回して, latexmlをキャッシュしてるだけっぽい 最終的にHTMLに変換されたものをzipで固めてサーバ上で管理 レンダリング時はzipを展開して独自のCSSで書き換えたものを表示 Rust製 ...
【論文メモ】Think Global, Act Local: Dual-scale Graph Transformer for Vision-and-Language Navigation
· ☕ 1 min read
VLN-DUET 概要 localな情報とグラフを用いたglobalな情報の両方を統合してactionを決定する actionが決定されたら, Graphを動的に構築して, 移動先までの最短経路をワーシャルフロイドで探索 各ノードには, viewから得られた特徴量を埋め込み表現として保持する 行動 aπは各ノードへの尤度によって表現され, ノ ...

【論文メモ】Think Global, Act Local: Dual-scale Graph Transformer for Vision-and-Language Navigation
【論文メモ】Graph Transformer: A Generalization of Transformer Networks to Graphs
· ☕ 1 min read
任意のGraphに適応可能な, 汎用Transformer Positional Encodingがラプラシアン行列の固有値で表現される ラプラシアン行列の固有値 λは頻度・周波数的な側面を持つ → グラフ上のフーリエ変換・畳み込みでは λが使われる (いつかまとめる→todo) todo https://arxiv.org/pdf/2012.09699v2.pdf ...

【論文メモ】Graph Transformer: A Generalization of Transformer Networks to Graphs
【論文メモ】SwinIR: Image Restoration Using Swin Transformer
· ☕ 1 min read
残差接続が大量にあるの面白い 多分だけど, 真っ黒から真っ黒への変換みたいな無意味な変換によって重みの学習を引っ張られたくないので, クソデカ残差を入れているのだと思う (オキモチ) SwinTransformerのおかげでパラメタ数はかなり減っている ...

【論文メモ】SwinIR: Image Restoration Using Swin Transformer
方策エントロピー
· ☕ 1 min read
探索空間において探索されたことで更新される情報量 情報エントロピー, もしくは方策の対数尤度の期待値と考えればOK H(π(⋅|st))=∑a−π(a|s)log⁡π(a|s)=Ea∼π[−log⁡π(a|s)] 引用: https://horomary.hatenablog.com/entry/2020/12/20/115439 ...

方策エントロピー
SAC(Soft-Actor-Critic)
· ☕ 1 min read
Actor-Critic型のSoft-Q学習 Soft-Q学習とは簡単に言うと, 報酬 + 方策エントロピーを目的関数に据える学習手法 SAC(Soft-Actor-Critic)の理論的背景はSoft-Q学習からきており、従来の目的関数に方策エントロピー項を加え、より多様な探索を可能にした手法です。 エントロピー項は正則化の役割 ...
WikipediaのTexをコピペする
· ☕ 1 min read
WikipediaはMathJaxを使っているので(ホントか？), 画像を新規タブで開けばタイトルにtex表記が記述されている なので, 画像を新規タブで開く→ソースコードを表示→titleタグの部分をコピペすればOK 例 ⟨S⟩=sk1ek1sk2ek2⋯skmekm∣∃m∈N,(k1,…,km)∈Nm,ekj∈N,skj∈S. ...

WikipediaのTexをコピペする
Impact Factor
· ☕ 1 min read
学術雑誌の影響力を測る指標らしい (そんなのあるんだ) 今年の被引用数を過去2年分のPublicationで割る IFy=CitationsyPublicationsy−1+Publicationsy−2. ...

©2025, All Rights Reserved