https://yuiga.dev/blog/tags/nlp/ Recent content in NLP on 行李の底に収めたり[YuWd] Hugo -- gohugo.io ja ©2023, All Rights Reserved Wed, 19 Oct 2022 19:16:15 +0900 https://yuiga.dev/blog/posts/lifting_the_curse_of_multilinguality_by_pre-training_modular_transformers/ Wed, 19 Oct 2022 19:16:15 +0900 Wed, 19 Oct 2022 19:16:15 +0900 https://yuiga.dev/blog/posts/lifting_the_curse_of_multilinguality_by_pre-training_modular_transformers/ NACCL22 多言語を扱うモデルにおいて, 言語の数を増やせば増やすほど精度が下がる「the curse of multilinguality」(多言語の呪い)という現象が存在する この「多言語の呪い」を対処するモデルとしてX-MODを提案 概略 言語ごとにbottleneck型のモジュールを用意し, 言語ごとにスイッチさせる それ故, 拡張は容易で, 学習・推 YuWd (Yuiga Wada) featured image 論文 NLP https://yuiga.dev/blog/posts/simcse/ Tue, 18 Oct 2022 19:34:11 +0900 Tue, 18 Oct 2022 19:34:11 +0900 https://yuiga.dev/blog/posts/simcse/ ENMLP21 Supervised SimCSE 含意関係にある文を正例として対照学習 NLIデータセット Unsupervised SimCSE 同じ文を二回埋め込んで対照学習 dropoutの影響で微かに異なる二つのベクトルに対して対照学習 引用: https://www.slideshare.net/DeepLearningJP2016/dlsimcse-simple-contrastive-learning-of-sentence-embeddings-emnlp-2021 YuWd (Yuiga Wada) featured image 論文 自己教師あり学習 NLP https://yuiga.dev/blog/posts/pycocoevalcap%E3%81%AEmeteor%E3%81%8C%E3%83%90%E3%82%B0%E3%82%8B_self.meteor_p.stdin.flush/ Thu, 08 Sep 2022 00:05:28 +0900 Thu, 08 Sep 2022 00:05:28 +0900 https://yuiga.dev/blog/posts/pycocoevalcap%E3%81%AEmeteor%E3%81%8C%E3%83%90%E3%82%B0%E3%82%8B_self.meteor_p.stdin.flush/ なぜかpycocoevalcapでMETEORの計算が止まる問題 どうやらself.meteor_p.stdin.flush() あたりで止まっているらしい 結論から言えば, 俺の場合キャプションに\nが入っていたせいだった そもそもCOCO captions のキャプション自体結構汚いので注意 変な改行入ってたり, キャプションがなぜか6つあったり YuWd (Yuiga Wada) featured image python NLP post https://yuiga.dev/blog/posts/a%E3%81%AEb%E5%95%8F%E9%A1%8C/ Wed, 31 Aug 2022 05:14:53 +0900 Wed, 31 Aug 2022 05:14:53 +0900 https://yuiga.dev/blog/posts/a%E3%81%AEb%E5%95%8F%E9%A1%8C/ 名詞句「AのB」は意味が多い・曖昧すぎて, 非常に解析しにくい NLP界隈では「AのB」の怖さを徹底的に叩き込まれるらしい 先生曰く, 読み方は ✅ 「エー→のビー」 ❌「エー⤵のビー」 らしい KNPを作った京大黒橋研の論文 国語辞典を用いた名詞句「AのB」の意味解析 名詞に必須格の考え方を持ち込み, 国語辞典から「AのB」の解析=分類を試 YuWd (Yuiga Wada) NLP post https://yuiga.dev/blog/posts/%E8%BF%B0%E8%AA%9E%E9%A0%85%E6%A7%8B%E9%80%A0/ Fri, 26 Aug 2022 22:04:55 +0900 Fri, 26 Aug 2022 22:04:55 +0900 https://yuiga.dev/blog/posts/%E8%BF%B0%E8%AA%9E%E9%A0%85%E6%A7%8B%E9%80%A0/ 述語項構造とは、何がどうした、という述語とその項からなる構造のことである。 https://pyknp.readthedocs.io/en/latest/usage.html 「述語」に対して, 「項」と「格」が接続されている 引用: https://www.scribd.com/archive/plans?slideshare=true tips 述語項構造はJUMAN++とKNPで取り出せる JUMAN++はRNNベースの形態素解析ツール KNPは構文・格・照応解析システム Pythonからも使える https://pyknp.readthedocs.io/en/latest/ 両者をDockerから使えるように YuWd (Yuiga Wada) featured image NLP post https://yuiga.dev/blog/posts/%E3%82%B3%E3%83%94%E3%83%A5%E3%83%A9_copula/ Wed, 24 Aug 2022 02:23:25 +0900 Wed, 24 Aug 2022 02:23:25 +0900 https://yuiga.dev/blog/posts/%E3%82%B3%E3%83%94%E3%83%A5%E3%83%A9_copula/ copula 別名: 「繋辞」 文の主語と述語を結ぶための品詞. つまり, X=Yの形式を作る品詞 例 日本語: 「だ」「です」…etc 英語: be動詞, become … etc 「Y＝Xと交換可能であり、2つの要素が一致すること」を指定（してい）、「Y＝Xとすることができず、YがXの属性を表すこと」を措定（そてい）と呼ぶ。これらを区別して表現する言語 YuWd (Yuiga Wada) NLP post https://yuiga.dev/blog/posts/generating_semantically_precise_scene_graphs_from_textual_descriptions_for_improved_image_retrieval/ Wed, 24 Aug 2022 02:21:50 +0900 Wed, 24 Aug 2022 02:21:50 +0900 https://yuiga.dev/blog/posts/generating_semantically_precise_scene_graphs_from_textual_descriptions_for_improved_image_retrieval/ Stanford Scene Graph Parserの論文 (ACL 2015) 一応, scene graphを自動化してimage retrievalできるようにしようという趣旨 https://nlp.stanford.edu/software/scenegraph-parser.shtml 流れ ①Universal Dependenciesを一部修正したものをsemantic graphとして生成 a lot of 等のquantificational modifiersの修正 代名詞の解釈 複数名詞への対応 → ノー YuWd (Yuiga Wada) 論文 NLP Vision-and-Language Graph https://yuiga.dev/blog/posts/spice_semantic_propositional_image_caption_evaluation/ Tue, 16 Aug 2022 20:46:30 +0900 Tue, 16 Aug 2022 20:46:30 +0900 https://yuiga.dev/blog/posts/spice_semantic_propositional_image_caption_evaluation/ 評価指標SPICEの論文 (ECCV 2016) BLEUなどはn-gramの重なりにsensitiveで, 真の意味でsemanticsを評価しているとは言えない そこで, scene graphを用いた評価指標SPICEを提案 実際, 画像キャプショニングモデルではよく見かける指標となってきた 流れ ① 複数キャプションからscene graphを生成 scene graph YuWd (Yuiga Wada) featured image 論文 NLP Vision-and-Language Graph https://yuiga.dev/blog/posts/%E6%97%A5%E6%9C%AC%E8%AA%9E%E3%82%AD%E3%83%A3%E3%83%97%E3%82%B7%E3%83%A7%E3%83%B3%E3%83%87%E3%83%BC%E3%82%BF%E3%82%BB%E3%83%83%E3%83%88/ Mon, 15 Aug 2022 23:36:52 +0900 Mon, 15 Aug 2022 23:36:52 +0900 https://yuiga.dev/blog/posts/%E6%97%A5%E6%9C%AC%E8%AA%9E%E3%82%AD%E3%83%A3%E3%83%97%E3%82%B7%E3%83%A7%E3%83%B3%E3%83%87%E3%83%BC%E3%82%BF%E3%82%BB%E3%83%83%E3%83%88/ STAIR MSCOCOにキャプションを付与 全部で820,310件のキャプション http://captions.stair.center/ Yuya Yoshikawa, Yutaro Shigeto, and Akikazu Takeuchi, “STAIR Captions: Constructing a Large-Scale Japanese Image Caption Dataset”, Annual Meeting of the Association for Computational Linguistics (ACL), Short Paper, 2017. YJ Captions 26k Dataset こちらもMSCOCOにキャプションを付与したもので, ACL2016 キャプション数がSTAIRの1/6程度 https://github.com/yahoojapan/YJCaptions Takashi Miyazaki and Nobuyuki Shimizu. 2016. Cross-Lingual Image Caption Generation. In Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pages 1780 YuWd (Yuiga Wada) 機械学習 NLP Vision-and-Language post