post
Wasserstein距離
· ☕ 1 min read
https://dreamer-uma.com/wassersteingan-theory/ ...
cellular automaton
· ☕ 1 min read
セル・オートマトン セルオートマトン（Cellular Automaton, CA）とは、空間に格子状に敷き詰められた多数のセルが、近隣のセルと相互作用をする中で自らの状態を時間的に変化させていく「自動機械（オートマトン）」です。 このようにCAは抽象的なモデルですが、様々な物理現象や生命現象のエッセンスを捉えたモデルとして古くから研究されてき ...
Neural Turing Machines
· ☕ 1 min read
https://arxiv.org/pdf/1410.5401.pdf チューリングマシンを機械学習で学習するイメージ なのでパターンを学習するのではなく, アルゴリズムを学習する感じ cellular automaton × 機械学習というのもアリ Neural Cellular Maze Solver https://umu1729.github.io/pages-neural-cellular-maze-solver/ ...
Neural Routing by Memory
· ☕ 1 min read
どのようにルーティング？ 特徴量 f をGlobal Average Poolingに通したものとメモリ mとで近傍探索 (論文中ではユークリッド距離) メモリは各ブロックの先頭に配置 メモリはどう初期化するの？ クラスタ分析で表現学習 (表現特徴を抽出) 今回はK平均法でクラスタの中心をメモリに採用 パラメタ数が爆増して ...

Neural Routing by Memory
連合学習
· ☕ 1 min read
Federated Learning 学習済みモデルをデバイスに送信 モデルを運用 適宜, デバイス内部で学習 学習差分をサーバに送信 サーバでデバイスから送信されたモデルをマージ ...
RNNとチューリング完全性
· ☕ 1 min read
RNNはチューリング完全らしい 関連で Neural Turing Machinesというものもある BPは使えないけど, ノードを動的に増減させるタイプのRNNでもチューリング完全なものが構成できるらしい Turing Completeness of Bounded-Precision Recurrent Neural Networks https://openreview.net/forum?id=IWJ9jvXAoVQ ...
コルモゴロフ複雑性
· ☕ 1 min read
文字列の複雑性を記述することができる 例えば A: 010101010101010101010101010101010101010101010101010101010101 B: 110010000110000111011110111011001111101001000010010101111001 ↑ どっちが複雑と言えるか？ → B Bが複雑だということをどう表現するか. 例えば, 人間であれば「説明が簡単かどうか」を指標にすることができる これをコンピュータに落とし込めば… [* 出力 x を出力できるプログラムのうち, 最も文字数が短いプログラムの文字数] これをコルモゴ ...
Squeeze-and-Excitation
· ☕ 1 min read
Squeeze Global Average Poolingで各チャネルの平均 zを取る チャネル数を少しだけ減らす Excitation 各チャネルについて, 平均 zから元の次元に戻す ↑チャネルごとにこいつで重み付け 何が嬉しいの？ 空間方向だけでなく, チャネル方向の関係を捉えることが出来る 例えば, ある特徴マップと別の特徴マップとで同じような部分に強い反応があれば, それらの関係を ...

Squeeze-and-Excitation
KLダイバージェンス
· ☕ 1 min read
分布 p(x),q(x) がそれぞれどの程度似ているかを測る指標 情報エントロピーの差を計算する KL(p||q)=∫−∞∞p(x)ln⁡p(x)q(x)dx 特徴 対称性がない それゆえ, 距離ではなく「擬距離」と呼ばれるらしい 対称性を持たせるために左右反転したものの平均を取ることがある DJS(p||q)=KL(p||q)+KL(q||p)2 これをJSダイバージェンスと呼ぶらしい ...
情報エントロピー
· ☕ 1 min read
要件 確率を用いたい ある独立な事象について, 情報量は加法的でありたい → つまり, ある独立な事象 x,y について, f(x,y)=f(x)+f(y) これらを満たすには, 積が加法的になれば良いので, log が使えそうだ よって, 情報量を f(x)=−log(p(x)) とする この”情報量”についての期待値を計算したものをエントロピーと定義する H[y|x = -\sum_{x \in X} p(x) log(p(x)) ] ...
Siamese Network
· ☕ 1 min read
画像分類：与えられた1枚の画像がどのクラスに属するのかを学習 Siamese Network：与えられた2枚以上の画像が、それぞれ異なるクラスに属するのか同一のクラスに属するのかを学習 https://qiita.com/koshian2/items/a31b85121c99af0eb050 自己教師あり学習 ラベル無しデータを用いた教師なし学習の一種 例えば指紋認証 人 i(クラス i) の人指し指は一つしかない 普通, 教師あり学習は一つのクラスに大 ...
Sentence BERT
· ☕ 1 min read
得られる表現の埋め込み空間上での距離的な関係を学習するネットワークを Siamese Networkと言います 対照学習とは違う？ SimCLRは対照学習 SimSiamは類似度ベース https://speakerdeck.com/sansandsoc/simsiam-exploring-simple-siamese-representation-learning?slide=4 ...

Sentence BERT

©2025, All Rights Reserved