論文 – 行李の底に収めたり[YuWd]

【論文メモ】Un-Mix

📅 2022/6/14 · ☕ 1 min read

I_{A}

にCutMixとMixup を掛ける ( Mixup:

I_{A}^{M} = λ I_{1} + (1 - λ) I_{2}

) 画像の混合比率

λ

に応じて, 正例間の意味的距離を調節

L_{f i n a l}! =! L_{o r i} + \underset{normal order of mixtures}{\underset{⏟}{λ L_{m}! (I_{A}^{M} (↓), {\hat{I}}_{A})}}! +! \underset{reverse order of mixtures}{\underset{⏟}{(1! -! λ) L_{m}! (I_{A}^{M} (↑), {\hat{I}}_{A})}}

Mix方法は, 単純にミニバッチを反転させて, indexごとにmixするだけ Mixup が効いて, より決定境界が明瞭に ...

【論文メモ】SwAV

📅 2022/6/13 · ☕ 1 min read

Unsupervised Learning of Visual Features by Contrasting Cluster Assignments Prototypical Contrastive Learning of Unsupervised Representations より複雑なことしてる Sinkhorn-Knoppアルゴリズムを用いてクラスの割当を最適化 ...

【論文メモ】Sinkhorn Distances: Lightspeed Computation of Optimal Transport

📅 2022/6/13 · ☕ 1 min read

Sinkhorn-Knoppアルゴリズムによって, 最適輸送距離を近似 ...

#論文

【論文メモ】Supervised Contrastive Learning

📅 2022/6/12 · ☕ 1 min read

Prototypical Contrastive Learning of Unsupervised Representations と同じ動機本来類似度が高くても負例ペアは負例ペアとして認識してしまうので, よくないよね → ラベル情報を使いましょう → [* 教師あり対照学習] こうじゃなくて (一番下の犬がtarget) こうしたい ...

【論文メモ】Multi-level Wavelet Convolutional Neural Networks

📅 2022/6/9 · ☕ 0 min read

...

【論文メモ】Transformer Interpretability Beyond Attention Visualization

📅 2022/6/8 · ☕ 1 min read

LRPをTransformerにも使用できるようにしたもの LRPでは行列和や行列積に対応できない → いい感じに代替 ...

【論文メモ】Transformer Interpretability Beyond Attention Visualization

【論文メモ】This Looks Like That: Deep Learning for Interpretable Image Recognition

📅 2022/6/8 · ☕ 1 min read

割と学習が難しいらしい？ Clst: 潜在変数をパッチ単位で分割して, クラスタリング Sep: クラスタ同士を遠ざけるように学習 ...

#論文

【論文メモ】This Looks Like That: Deep Learning for Interpretable Image Recognition

【論文メモ】Affinity loss

📅 2022/6/8 · ☕ 1 min read

ソフトマックスにクラスタリングの要素を持ち込んで、不均衡を是正するアルゴリズム. サポートベクターマシンのようなマージン最大化問題を考える ...

【論文メモ】Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead

📅 2022/6/7 · ☕ 1 min read

事後的な説明性は必ず近似を含むので, モデルの説明にはならないなので近似を含ませずに直接解釈可能なモデルを作らねばならないステークホルダーは解釈可能性よりも, とりあえず「説明」がほしいということがよくあるなので, 決定木ベースであったり, スコアリングベースの手法がビジネスで使われてしまうまたステークホルダーは説明性を出力し ...