https://yuiga.dev/blog/en/tags/graph/ Recent content in Graph on 行李の底に収めたり[YuWd] Hugo -- gohugo.io en ©2026, All Rights Reserved Mon, 19 Sep 2022 00:57:50 +0900 https://yuiga.dev/blog/en/ja/posts/energy-based_learning_for_scene_graph_generation/ Mon, 19 Sep 2022 00:57:50 +0900 Mon, 19 Sep 2022 00:57:50 +0900 https://yuiga.dev/blog/en/ja/posts/energy-based_learning_for_scene_graph_generation/ はじめに Energy Based Modelを用いて画像からscene graphを生成する手法(フレームワーク)を提案 既存手法は次のようにクロスエントロピーでscene graphを生成する $$\log p(SG|I) = \sum_{i \in O} \log p(o_i| I) + \sum_{j \in R} \log p(r_j | I).$$ このとき, object $O$とrelation $R$が互いに独立に計算されている ここが問題で, 本来なら互いに弱い依存性があるはず し YuWd (Yuiga Wada) featured image 論文 Graph https://yuiga.dev/blog/en/ja/posts/generating_semantically_precise_scene_graphs_from_textual_descriptions_for_improved_image_retrieval/ Wed, 24 Aug 2022 02:21:50 +0900 Wed, 24 Aug 2022 02:21:50 +0900 https://yuiga.dev/blog/en/ja/posts/generating_semantically_precise_scene_graphs_from_textual_descriptions_for_improved_image_retrieval/ Stanford Scene Graph Parserの論文 (ACL 2015) 一応, scene graphを自動化してimage retrievalできるようにしようという趣旨 https://nlp.stanford.edu/software/scenegraph-parser.shtml 流れ ①Universal Dependenciesを一部修正したものをsemantic graphとして生成 a lot of 等のquantificational modifiersの修正 代名詞の解釈 複数名詞への対応 → ノー YuWd (Yuiga Wada) 論文 NLP Vision-and-Language Graph https://yuiga.dev/blog/en/ja/posts/graphormer_do_transformers_really_perform_bad_for_graph_representation/ Tue, 16 Aug 2022 20:46:37 +0900 Tue, 16 Aug 2022 20:46:37 +0900 https://yuiga.dev/blog/en/ja/posts/graphormer_do_transformers_really_perform_bad_for_graph_representation/ はじめに Transformerをベースとしたグラフ学習手法 (NeurIPS 2021) 構成要素は三つ Centrality Encoding Spatial Encoding Edge Encoding (in the Attention) 特筆すべき点として, この手法はGINやGCN, それからGraphSAGEといったGNN手法を一般化したものとなっているらしい Do Transformers Really Perform Bad for Graph Representation? 論文メモ 構成要素1. Centrality Encoding モチベーション Node Centrality, つまりノードがどれほど別のノードとつながって YuWd (Yuiga Wada) featured image 論文 Graph https://yuiga.dev/blog/en/ja/posts/spice_semantic_propositional_image_caption_evaluation/ Tue, 16 Aug 2022 20:46:30 +0900 Tue, 16 Aug 2022 20:46:30 +0900 https://yuiga.dev/blog/en/ja/posts/spice_semantic_propositional_image_caption_evaluation/ 評価指標SPICEの論文 (ECCV 2016) BLEUなどはn-gramの重なりにsensitiveで, 真の意味でsemanticsを評価しているとは言えない そこで, scene graphを用いた評価指標SPICEを提案 実際, 画像キャプショニングモデルではよく見かける指標となってきた 流れ ① 複数キャプションからscene graphを生成 scene graph YuWd (Yuiga Wada) featured image 論文 NLP Vision-and-Language Graph https://yuiga.dev/blog/en/ja/posts/tokengt_pure_transformers_are_powerful_graph_learners/ Tue, 02 Aug 2022 18:58:30 +0900 Tue, 02 Aug 2022 18:58:30 +0900 https://yuiga.dev/blog/en/ja/posts/tokengt_pure_transformers_are_powerful_graph_learners/ グラフをそのままTransformerにブチこむ手法 GNNより帰納バイアスが少ないが, GNNよりも良い精度を達成 入力について まず, ノードとエッジをそれぞれ独立なものとして捉え, それぞれを同等にトークン $X$とする そのトークンに, ノードなのかエッジなのかを判別するType Identifiersをconcatして入力 トーク YuWd (Yuiga Wada) featured image 論文 Graph https://yuiga.dev/blog/en/ja/posts/wl_test/ Thu, 28 Jul 2022 23:38:47 +0900 Thu, 28 Jul 2022 23:38:47 +0900 https://yuiga.dev/blog/en/ja/posts/wl_test/ 引用: https://davidbieber.com/post/2019-05-10-weisfeiler-lehman-isomorphism-test/ 正式名称: The Weisfeiler-Lehman Isomorphism Test グラフが同型であるかチェックするアルゴリズム 各ノード $i$に適当なラベル $C_i = 1$を割り当てる 隣接するノードの多重集合 $L_i$をノードに記録する 多重集合 $L_i$をハッシュに通して新たな $C_i$を得る ( $C_i \leftarrow hash(L_i)$) 以上を繰り返して, ノードの分割 ${C_i}$が収束したら停止 ２つのグラフが[* 同じ $ YuWd (Yuiga Wada) featured image Graph 数学 post https://yuiga.dev/blog/en/ja/posts/representation_learning_on_graphs_with_jumping_knowledge_networks/ Tue, 12 Jul 2022 18:10:21 +0900 Tue, 12 Jul 2022 18:10:21 +0900 https://yuiga.dev/blog/en/ja/posts/representation_learning_on_graphs_with_jumping_knowledge_networks/ 概要 隣接ノードからのaggregationだけでは, k層のGCNはただのrandom-walkと変わらない r.w = random-walk 濃い色のノードはInfluence Probabilityの高いもの 各ノードの影響範囲が大きくてもダメだし, 小さくてもダメ なので, 各層の出力をすべて使用し, モデルに適切な影響半径を決めさせるJumping Knowledge Ne YuWd (Yuiga Wada) featured image 論文 GNN Graph