https://yuiga.dev/blog/en/tags/post/ Recent content in post on 行李の底に収めたり[YuWd] Hugo -- gohugo.io en ©2026, All Rights Reserved Thu, 01 Jan 2026 10:55:01 +0900 https://yuiga.dev/blog/en/ja/posts/youtube%E3%82%A2%E3%83%97%E3%83%AA%E3%81%AE%E3%82%B7%E3%83%A7%E3%83%BC%E3%83%88%E5%8B%95%E7%94%BB%E3%82%92%E9%9D%9E%E8%A1%A8%E7%A4%BA%E3%81%AB%E3%81%99%E3%82%8B%E6%96%B9%E6%B3%95iphone/ Thu, 01 Jan 2026 10:55:01 +0900 Thu, 01 Jan 2026 10:55:01 +0900 https://yuiga.dev/blog/en/ja/posts/youtube%E3%82%A2%E3%83%97%E3%83%AA%E3%81%AE%E3%82%B7%E3%83%A7%E3%83%BC%E3%83%88%E5%8B%95%E7%94%BB%E3%82%92%E9%9D%9E%E8%A1%A8%E7%A4%BA%E3%81%AB%E3%81%99%E3%82%8B%E6%96%B9%E6%B3%95iphone/ こういう感じに消える＆見れないようにできる！ やり方 TL;DR CloudFlare ZeroTrustの一部を使い，常にプロキシでURLをチェックするようにしておけばよい https://www.ideasquantified.com/removing-youtube-shorts/#dnsvsurl 動画本体について ショート動画用のAPIにはクエリパラメタとして?ctier=SHがついているので，こいつらをブロック .*ctier=(O|A).*, /initplayback, youtube.com/youtubei/v1/reelも YuWd (Yuiga Wada) featured image Computer post https://yuiga.dev/blog/en/ja/posts/gdrive%E3%81%AE%E5%85%B1%E6%9C%89%E3%82%A2%E3%82%A4%E3%83%86%E3%83%A0%E3%82%92%E3%82%BF%E3%83%BC%E3%83%9F%E3%83%8A%E3%83%AB%E3%81%8B%E3%82%89%E3%83%80%E3%82%A6%E3%83%B3%E3%83%AD%E3%83%BC%E3%83%89/ Thu, 01 Jan 2026 10:54:46 +0900 Thu, 01 Jan 2026 10:54:46 +0900 https://yuiga.dev/blog/en/ja/posts/gdrive%E3%81%AE%E5%85%B1%E6%9C%89%E3%82%A2%E3%82%A4%E3%83%86%E3%83%A0%E3%82%92%E3%82%BF%E3%83%BC%E3%83%9F%E3%83%8A%E3%83%AB%E3%81%8B%E3%82%89%E3%83%80%E3%82%A6%E3%83%B3%E3%83%AD%E3%83%BC%E3%83%89/ gdownの時代はもう終わり https://yuiga.dev/blog/ja/posts/巨大データgdownのaccess_denied問題は諦めよう/ これからはrcloneの時代や！！ https://rclone.org/ Rclone is a command-line program to manage files on cloud storage. It is a feature-rich alternative to cloud vendors’ web storage interfaces やりかた 共有アイテムに対して，自分のドライブにショートカットを置く rclone ls gdrive: YuWd (Yuiga Wada) featured image Computer post https://yuiga.dev/blog/en/ja/posts/2025%E5%B9%B4%E8%AA%AD%E3%82%93%E3%81%A0%E6%9C%AC%E8%A6%8B%E3%81%9F%E6%98%A0%E7%94%BB%E3%83%89%E3%83%A9%E3%83%9E%E7%B5%B5%E7%94%BB%E8%B6%A3%E5%91%B3/ Wed, 31 Dec 2025 10:54:40 +0900 Wed, 31 Dec 2025 10:54:40 +0900 https://yuiga.dev/blog/en/ja/posts/2025%E5%B9%B4%E8%AA%AD%E3%82%93%E3%81%A0%E6%9C%AC%E8%A6%8B%E3%81%9F%E6%98%A0%E7%94%BB%E3%83%89%E3%83%A9%E3%83%9E%E7%B5%B5%E7%94%BB%E8%B6%A3%E5%91%B3/ 福田恆存「人間・この劇的なるもの」 三國万里子「編めば編むほどわたしはわたしになっていった」 三島由紀夫「不道徳教育講座」 安部公房「死に急ぐ鯨たち・もぐら日記」 三島由紀夫「行動学入門」 pha「どこでもいいからどこかへ行きたい」 三島由紀夫「小説家の休暇」 モリー・マルーフ「脳と身体を最適化せよ！」 ジョージ・オーウェル「本vs煙 YuWd (Yuiga Wada) 読書録 post https://yuiga.dev/blog/en/ja/posts/clean_mackbook/ Thu, 06 Mar 2025 23:40:02 +0900 Thu, 06 Mar 2025 23:40:02 +0900 https://yuiga.dev/blog/en/ja/posts/clean_mackbook/ 状況 2ヶ月前，清涼飲料水をキーボードにこぼしてしまった 当時，キーボードを外して中を拭いたにもかかわららず，日によって調子が悪い → 気温・湿度にキーボードの調子が左右されるようになってしまった ある日はなんともないのに，別の日には，キーを押すと鈍い打鍵感 糖でキーボードの中にりんご飴が生成されてるような感じ ということでキーボー YuWd (Yuiga Wada) featured image post https://yuiga.dev/blog/en/ja/posts/wtf_logic/ Tue, 04 Mar 2025 17:07:28 +0900 Tue, 04 Mar 2025 17:07:28 +0900 https://yuiga.dev/blog/en/ja/posts/wtf_logic/ 概要: 他人の否定や批判の大半は、我々の知ったことではないのである いま、2つのロジックAと￢Aがあるとする。（￢AはAと正反対のロジック）。 このとき、公理系さえ変えれば、どちらの結論A/￢Aも客観的に正しい状態が存在しうる。 つまり、それぞれの公理系の中で正しい主張となりうる公理系が存在しうるのである。 この前提に立った際、 YuWd (Yuiga Wada) featured image post https://yuiga.dev/blog/en/ja/posts/recollections-of-my-masters-experience/ Sun, 29 Sep 2024 02:58:28 +0900 Sun, 29 Sep 2024 02:58:28 +0900 https://yuiga.dev/blog/en/ja/posts/recollections-of-my-masters-experience/ 修士課程での主要な活動 修士課程での主要な活動 (2023/04/01 〜 2024/09/05) 早期卒業（飛び級） 1.5年で修士を卒業し，9月から博士課程へ 論文 主著 CVPR 2024, CoNLL23 採択 (上位3.6%のCVPR Highlightへ選ばれる) 共著 CVPR WS 2023, IEEE/RSJ IROS 2023, ACCV 2024 採択 国内論文 8本 グラント関連 2025年度 JSPS 日本学術振興会特別研究員（DC1）採用 2024年度 JST BOOST 採用 未踏 2024 採択 (落合陽 YuWd (Yuiga Wada) poem post https://yuiga.dev/blog/en/ja/posts/mamba%E3%82%92poetry%E3%81%A7%E7%AE%A1%E7%90%86%E3%81%99%E3%82%8B/ Sun, 24 Mar 2024 06:28:57 +0900 Sun, 24 Mar 2024 06:28:57 +0900 https://yuiga.dev/blog/en/ja/posts/mamba%E3%82%92poetry%E3%81%A7%E7%AE%A1%E7%90%86%E3%81%99%E3%82%8B/ リンク集 Mamba: Linear-Time Sequence Modeling with Selective State Spaces https://github.com/state-spaces/mamba https://github.com/Dao-AILab/causal-conv1d 備忘録 mamba-ssmやcausal-conv1dがPEP517に準拠していないのでpoetry add <package-name>だとインスコできない poetry add <path>でもsetup.py読んでくれないからムリ → 無理やりローカルでwheelを作ってpoetry addすれば YuWd (Yuiga Wada) python poetry post https://yuiga.dev/blog/en/ja/posts/cvpr24_yuwd/ Tue, 27 Feb 2024 06:28:57 +0900 Tue, 27 Feb 2024 06:28:57 +0900 https://yuiga.dev/blog/en/ja/posts/cvpr24_yuwd/ 🌐 project page 📄 arXiv 🤗 Dataset 主著一本がCVPR 2024に採択されました 🔥🔥🔥 朝から最高の気分です！！！#CVPR2024 pic.twitter.com/2O5cBWzQGx — YuWd (@YuigaWada) February 27, 2024 YuWd (Yuiga Wada) featured image python poetry post https://yuiga.dev/blog/en/ja/posts/bfloat%E3%81%A8%E3%81%AF%E4%BD%95%E3%81%8B/ Mon, 11 Dec 2023 03:03:16 +0900 Mon, 11 Dec 2023 03:03:16 +0900 https://yuiga.dev/blog/en/ja/posts/bfloat%E3%81%A8%E3%81%AF%E4%BD%95%E3%81%8B/ double vs fp32 vs fp16 vs bfp16 double (64bit) 1/11/52 = 64 fp32 -> float (32bit) 1 / 8 / 23 = 32 fp16 -> float (16bit) 1 / 5 / 10 = 16 IEEEで規格化 bfloat16 1 / 8 / 7 = 16 指数部をfp32に合わせている 仮数部は実質的な有効数字 (粒度) を決めて，指数部は値のrangeを決めるので，仮数部を減らして指数部を増やすことで，取りうる値のrangeを最大化してあげる (仮数部) x 2^(指数部) 2^() YuWd (Yuiga Wada) featured image 競プロ Computer 機械学習 post https://yuiga.dev/blog/en/ja/posts/poetrypoetry_update%E3%81%8C%E7%B5%82%E3%82%8F%E3%82%89%E3%81%AA%E3%81%84%E6%B0%97%E3%81%8C%E3%81%99%E3%82%8B%E3%81%A8%E3%81%8D/ Mon, 11 Dec 2023 03:02:35 +0900 Mon, 11 Dec 2023 03:02:35 +0900 https://yuiga.dev/blog/en/ja/posts/poetrypoetry_update%E3%81%8C%E7%B5%82%E3%82%8F%E3%82%89%E3%81%AA%E3%81%84%E6%B0%97%E3%81%8C%E3%81%99%E3%82%8B%E3%81%A8%E3%81%8D/ pyproject.tomlで変な制約を付けていると，poetry updateで依存関係の解決が終わらないことがある． とりあえず poetry update -vvvでverbose mode (mode 3)で出力しましょう． 大抵は無限にバージョンを遡って行っているパターンが多い． 目で追っていくと，やたらとバージョンを探索しているライブラリだったり，頻出するライ YuWd (Yuiga Wada) python post https://yuiga.dev/blog/en/ja/posts/cpu__alu_+_register_+_l1..3_cache_+_etc/ Mon, 11 Dec 2023 03:01:54 +0900 Mon, 11 Dec 2023 03:01:54 +0900 https://yuiga.dev/blog/en/ja/posts/cpu__alu_+_register_+_l1..3_cache_+_etc/ CPUの主な構成要素は以下の通り： ALU（Arithmetic Logic Unit，算術論理演算装置）： ALUは，レジスタから読み出されたオペランド（操作対象のデータ）とオプコード（操作を指示するコード）を用いて，算術計算や論理演算を行う． レジスタ： レジスタは，高速な小容量の記憶装置で，CPU内で直接アクセスされるデータや指令を YuWd (Yuiga Wada) computer post https://yuiga.dev/blog/en/ja/posts/computer_science%E7%9F%A5%E3%81%A3%E3%81%A6%E3%81%8A%E3%81%8F%E3%81%B9%E3%81%8D%E6%95%B0%E5%AD%97%E4%B8%80%E8%A6%A7/ Mon, 11 Dec 2023 02:54:44 +0900 Mon, 11 Dec 2023 02:54:44 +0900 https://yuiga.dev/blog/en/ja/posts/computer_science%E7%9F%A5%E3%81%A3%E3%81%A6%E3%81%8A%E3%81%8F%E3%81%B9%E3%81%8D%E6%95%B0%E5%AD%97%E4%B8%80%E8%A6%A7/ 分岐予測の失敗 → 5ns L1 / L2キャッシュ→ 0.5ns / 7ns L1 cache reference 0.5 ns Branch mispredict 5 ns L2 cache reference 7 ns Mutex lock/unlock 100 ns Main memory reference 100 ns Compress 1K bytes with Zippy 10,000 ns 0.01 ms Send 1K bytes over 1 Gbps network 10,000 ns 0.01 ms Read 1 MB sequentially from memory 250,000 ns 0.25 ms Round trip within same datacenter 500,000 ns 0.5 ms Disk seek 10,000,000 ns 10 ms Read 1 MB sequentially from network 10,000,000 ns 10 ms Read 1 MB sequentially from disk 30,000,000 ns 30 ms Send packet CA->Netherlands->CA 150,000,000 ns 150 ms Where 1 ns = 10-9 seconds 1 ms = 10-3 seconds 引用: “Numbers Everyone Should Know” from Jeff Dean. doubleのbit数 MSB・指数・仮数で1 YuWd (Yuiga Wada) featured image computer post https://yuiga.dev/blog/en/ja/posts/k8sddp%E3%82%AF%E3%83%A9%E3%82%B9%E3%82%BF%E4%B8%8A%E3%81%A7%E3%81%AEtorch.load%E3%81%8C%E9%81%85%E3%81%84/ Sun, 17 Sep 2023 09:58:05 +0900 Sun, 17 Sep 2023 09:58:05 +0900 https://yuiga.dev/blog/en/ja/posts/k8sddp%E3%82%AF%E3%83%A9%E3%82%B9%E3%82%BF%E4%B8%8A%E3%81%A7%E3%81%AEtorch.load%E3%81%8C%E9%81%85%E3%81%84/ 概要 巨大なembeddingをチャンクで外部に保存し，DDP(Distributed Data Parallel)を使った学習時に各GPUで読み込みたい そんなときtorch.load(path, map_location=f"cuda:{rank}")にかかる時間の分散が大きい場合がある 前提: torch.loa YuWd (Yuiga Wada) k8s PyTorch post https://yuiga.dev/blog/en/ja/posts/abci%E3%81%A7%E4%BB%BB%E6%84%8F%E3%81%AEdocker%E3%82%A4%E3%83%A1%E3%83%BC%E3%82%B8%E3%82%92%E4%BD%BF%E7%94%A8%E3%81%99%E3%82%8B/ Tue, 30 May 2023 02:43:41 +0900 Tue, 30 May 2023 02:43:41 +0900 https://yuiga.dev/blog/en/ja/posts/abci%E3%81%A7%E4%BB%BB%E6%84%8F%E3%81%AEdocker%E3%82%A4%E3%83%A1%E3%83%BC%E3%82%B8%E3%82%92%E4%BD%BF%E7%94%A8%E3%81%99%E3%82%8B/ 前提: ABCIとは AI橋渡しクラウド（AI Bridging Cloud Infrastructure、以下「ABCI」という）は、国立研究開発法人 産業技術総合研究所が構築・運用する、AI技術開発・橋渡しのためのオープンな計算インフラストラクチャです。ABCIは、2018年8月に本格運用を開始し、2021年5月にABCI 2.0にアップグレードされ YuWd (Yuiga Wada) featured image Docker post https://yuiga.dev/blog/en/ja/posts/about_notification_misscat/ Sat, 18 Feb 2023 05:08:27 +0900 Sat, 18 Feb 2023 05:08:27 +0900 https://yuiga.dev/blog/en/ja/posts/about_notification_misscat/ こんにちは．論文執筆真っ最中のYuWdです． 最近，研究および論文執筆のタスクが落ち着いてきたのでMissCatの改修をボチボチ行っています． (MissCatとはiOS向けのMisskeyクライアント) 改修に着手するにあたって，まずは通知システムを直すところに目星をつけたのですが，昔の自堕落(ドキュメントを書かない性分) YuWd (Yuiga Wada) iOS Web post https://yuiga.dev/blog/en/ja/posts/redux%E3%81%A8swiftui%E3%81%AB%E3%81%A4%E3%81%84%E3%81%A6/ Wed, 15 Feb 2023 05:08:27 +0900 Wed, 15 Feb 2023 05:08:27 +0900 https://yuiga.dev/blog/en/ja/posts/redux%E3%81%A8swiftui%E3%81%AB%E3%81%A4%E3%81%84%E3%81%A6/ Redux 状態は複数のView, Controllerが相互に依存するので管理が難しい そこで，相互にイベントを発火させるのをやめて，単一方向にのみ状態が流れるように ユーザ操作で変数が変更→変更を検知したらレンダリング → flux さらに，変数変更とレンダリングの間に更新ロジックを挟むのがRedux Reduxはグローバルな状態を管理するのが YuWd (Yuiga Wada) 設計 iOS post https://yuiga.dev/blog/en/ja/posts/langchainagent%E3%81%AE%E4%BB%95%E7%B5%84%E3%81%BF%E3%82%92%E7%90%86%E8%A7%A3%E3%81%97%E3%81%A6_%E4%BB%BB%E6%84%8F%E3%81%AEllm%E3%82%92%E4%BD%BF%E7%94%A8%E3%81%99%E3%82%8B/ Mon, 06 Feb 2023 16:54:04 +0900 Mon, 06 Feb 2023 16:54:04 +0900 https://yuiga.dev/blog/en/ja/posts/langchainagent%E3%81%AE%E4%BB%95%E7%B5%84%E3%81%BF%E3%82%92%E7%90%86%E8%A7%A3%E3%81%97%E3%81%A6_%E4%BB%BB%E6%84%8F%E3%81%AEllm%E3%82%92%E4%BD%BF%E7%94%A8%E3%81%99%E3%82%8B/ OpenAIの提供するGPT-3には何種類かある text-davinci-003 / text-curie-001 / text-babbage-001 / text-ada-001 特にLangChainでは最も性能の良いtext-davinci-003が使用されている． だが，APIは金が掛かるのでなるだけフリーのLLMが使いたい → transformers-openai-api等で偽サーバを建てて，APIのオリジンをすり替えると任意のL YuWd (Yuiga Wada) 機械学習 LLM post https://yuiga.dev/blog/en/ja/posts/ap22/ Sun, 25 Dec 2022 00:16:11 +0900 Sun, 25 Dec 2022 00:16:11 +0900 https://yuiga.dev/blog/en/ja/posts/ap22/ はじめに この記事は慶應理工アドベントカレンダー2022の25日目の記事です. ← 24日目 (アドカレが全て埋まってくれて非常に嬉しい！！！) 導入 はじめましての方、はじめまして。2019年に慶應理工へ入学し、その後情報工学科に進学して今現在B4、無事ストレートでの卒業ができそうなYuWdと申します。 この度、なぜか10日程度の YuWd (Yuiga Wada) poem post https://yuiga.dev/blog/en/ja/posts/distance_correlation%E3%81%A8partial_distance_correlation_%E3%81%AB%E3%81%A4%E3%81%84%E3%81%A6/ Sun, 11 Dec 2022 20:25:51 +0900 Sun, 11 Dec 2022 20:25:51 +0900 https://yuiga.dev/blog/en/ja/posts/distance_correlation%E3%81%A8partial_distance_correlation_%E3%81%AB%E3%81%A4%E3%81%84%E3%81%A6/ 概要 pearsonの相関係数は線形な関係しか捉えることが出来ない. そこで, 点同士の距離を用いたDistance Correlationという相関係数が提案された. さらに, Distance Correlationを拡張し, 内積の期待値が共分散の二乗となるようなヒルベルト空間を定義したPartial Distance Correlationが提案されている. YuWd (Yuiga Wada) featured image 数学 機械学習 post https://yuiga.dev/blog/en/ja/posts/co_look_back/ Wed, 07 Dec 2022 00:16:11 +0900 Wed, 07 Dec 2022 00:16:11 +0900 https://yuiga.dev/blog/en/ja/posts/co_look_back/ この記事は慶應理工アドベントカレンダー2022の7日目の記事です. ← 6日目 | 8日目 → この記事の読み方/想定読者について ご自由にお読みください。記事自体結構長いので、ご自身の興味のあるところだけ読んでもらっても構いません。目次から気になるところを見てもらえると嬉しいです。(もちろん通しで読んでもらうのが一番嬉しい。) 想定 YuWd (Yuiga Wada) poem post https://yuiga.dev/blog/en/ja/posts/advent22/ Thu, 01 Dec 2022 10:16:11 +0900 Thu, 01 Dec 2022 10:16:11 +0900 https://yuiga.dev/blog/en/ja/posts/advent22/ はじめに この記事は慶應理工アドベントカレンダー2022の1日目の記事です. 導入 はじめましての方、はじめまして。2019年に慶應理工へ入学し、その後情報工学科に進学して今現在B4、無事ストレートでの卒業ができそうなYuWdと申します。 この度、慶應理工アドベントカレンダー2022というものを開催しました！！！ 本アドカレは去 YuWd (Yuiga Wada) poem post https://yuiga.dev/blog/en/ja/posts/matterport3d_semantic_segmentation/ Thu, 24 Nov 2022 20:09:23 +0900 Thu, 24 Nov 2022 20:09:23 +0900 https://yuiga.dev/blog/en/ja/posts/matterport3d_semantic_segmentation/ Intro The other day, one of my labmates needed to make a segmentation of Matterport3D. He asked for help, and I got involved in creating the segmentation. However, it turned out to be a real struggle. We were not used to 3D mesh models. After several weeks, we completed the code to create a semantic segmentation image for Matterport3D. How to create Matterport3D segmentation images Matterport3D provides access to 3D segmentation but does not give users an easy way to access 2D. Matterport3D data only provides point clouds and meshes labeled by ground truth, and the user must add color directly to the point clouds and meshes to create 2D segmentations. We, therefore, wrote code using Matterport3DSimulator to place a camera for a given scan_id and viewpoint_id and create a segmentation from the original ply file. When we run our code, we get the following image. (I concatenated the obtained images and converted to a gif) Matterport3DSimulator takes a total of 36 pictures: 12 at the top, 12 at the perimeter, and 12 at the bottom. YuWd (Yuiga Wada) featured image Matterport3D python CV Vision-and-Language post https://yuiga.dev/blog/en/ja/posts/m1mac_knp_juman/ Sat, 12 Nov 2022 10:16:11 +0900 Sat, 12 Nov 2022 10:16:11 +0900 https://yuiga.dev/blog/en/ja/posts/m1mac_knp_juman/ はじめに どうしても手元のM1 MacでKNP・Juman++を動かしたいとき, ごく稀にありますよね. そういうときにパッとDockerfileでも書いて, knpやjumanをDocker上で動かそうとすると, なぜか以下のようなエラーが吐かれることがあります. 1 cc: error: unrecognized command-line option '-m64' とか 1 cannot guess build type; you must specify one ということで, M1 Macでも動く YuWd (Yuiga Wada) Docker post https://yuiga.dev/blog/en/ja/posts/abc217_e_segment/ Tue, 08 Nov 2022 10:16:11 +0900 Tue, 08 Nov 2022 10:16:11 +0900 https://yuiga.dev/blog/en/ja/posts/abc217_e_segment/ はじめに 競プロを1年以上サボっているYuWdです. 長らく競プロから遠ざかっていたのですが, 今日から気楽に競プロを再開しようと思います. 手始めに今日は, サボり期間で受けていなかったコンテストを解いてみました. (ABC217) しかし, 解いてみた所感として, 思考力とやらはそこまで廃れきってはいないようなのですが, どうやら競プロの&quot YuWd (Yuiga Wada) 競プロ post https://yuiga.dev/blog/en/ja/posts/tmux_+_zshctrl-d%E3%81%A7%E3%82%BB%E3%83%83%E3%82%B7%E3%83%A7%E3%83%B3%E3%82%92detach%E3%81%99%E3%82%8B/ Mon, 24 Oct 2022 00:10:14 +0900 Mon, 24 Oct 2022 00:10:14 +0900 https://yuiga.dev/blog/en/ja/posts/tmux_+_zshctrl-d%E3%81%A7%E3%82%BB%E3%83%83%E3%82%B7%E3%83%A7%E3%83%B3%E3%82%92detach%E3%81%99%E3%82%8B/ はじめに tmuxとは俗に言う端末多重化ソフト(Terminal Multiplexer) のこと. terminalを複数のセッション, ウィンドウ, ペインに分割して使用することができる代物である. ターミナルを終了してもセッションは維持されるので, sshで学習を回す際に便利である. tmuxでは通常のC-dでセッションがexitされてしまうのだが, こ YuWd (Yuiga Wada) shell misc post https://yuiga.dev/blog/en/ja/posts/pytorchcuda_error_device-side_assert_triggered_%E8%A7%A3%E6%B1%BA%E3%81%AE%E6%89%8B%E5%BC%95%E3%81%8D/ Sun, 23 Oct 2022 04:49:42 +0900 Sun, 23 Oct 2022 04:49:42 +0900 https://yuiga.dev/blog/en/ja/posts/pytorchcuda_error_device-side_assert_triggered_%E8%A7%A3%E6%B1%BA%E3%81%AE%E6%89%8B%E5%BC%95%E3%81%8D/ はじめに PyTorchにて, “RuntimeError: CUDA error: device-side assert triggered"というエラーに出くわすことがある ネットに転がってるモデルで発生すると特に厄介である (自分が作った沼ではないので…) またMAEでのマスク処理のような, テクニカルな処理を行う場合などにも頻発 再現性が取れず, 出力されるエラー内容も二転三転. 一定 YuWd (Yuiga Wada) python PyTorch post https://yuiga.dev/blog/en/ja/posts/%E5%B7%A8%E5%A4%A7%E3%83%87%E3%83%BC%E3%82%BFgdown%E3%81%AEaccess_denied%E5%95%8F%E9%A1%8C%E3%81%AF%E8%AB%A6%E3%82%81%E3%82%88%E3%81%86/ Sat, 22 Oct 2022 06:36:36 +0900 Sat, 22 Oct 2022 06:36:36 +0900 https://yuiga.dev/blog/en/ja/posts/%E5%B7%A8%E5%A4%A7%E3%83%87%E3%83%BC%E3%82%BFgdown%E3%81%AEaccess_denied%E5%95%8F%E9%A1%8C%E3%81%AF%E8%AB%A6%E3%82%81%E3%82%88%E3%81%86/ TL;DR クソデカファイルをGoogle Driveからダウンロードするときは, gdownではなくcurl直打ちでダウンロードしよう はじめに Google Drive内の50GBほどあるデータをgdownでダウンロードしようとすると以下のエラーが出た Access denied with the following error: Too many users have viewed or downloaded this file recently. Please try accessing the file again later. If the file you are trying to access is particularly large or is shared with many people, it may take up to 24 hours YuWd (Yuiga Wada) Network post https://yuiga.dev/blog/en/ja/posts/%E6%91%A9%E8%A8%B6%E4%B8%8D%E6%80%9D%E8%AD%B0azcopy%E3%81%AF%E3%81%AA%E3%81%9C%E9%80%9F%E3%81%84/ Mon, 10 Oct 2022 18:15:31 +0900 Mon, 10 Oct 2022 18:15:31 +0900 https://yuiga.dev/blog/en/ja/posts/%E6%91%A9%E8%A8%B6%E4%B8%8D%E6%80%9D%E8%AD%B0azcopy%E3%81%AF%E3%81%AA%E3%81%9C%E9%80%9F%E3%81%84/ TL;DR azcopyとは, Azure内のblobを操作するためのツールなのだが, これを使えば摩訶不思議. なぜかwgetよりも快適にblobをダウンロードできる. azcopyがなぜこんなにも速いのか誰か教えてくれ 仮説: azcopyはコネクションを大量に張る + サーバを分散させている 導入: wgetが遅い問題 ORTの再現実験のため, YuWd (Yuiga Wada) Network misc post https://yuiga.dev/blog/en/ja/posts/%E6%97%A5%E6%9C%AC%E8%AA%9E%E7%89%88image_captioning%E3%81%AE%E5%AD%A6%E7%BF%92%E6%8E%A8%E8%AB%96%E3%82%B3%E3%83%BC%E3%83%89%E3%82%92%E6%8F%90%E4%BE%9B%E3%81%99%E3%82%8B/ Wed, 05 Oct 2022 01:06:12 +0900 Wed, 05 Oct 2022 01:06:12 +0900 https://yuiga.dev/blog/en/ja/posts/%E6%97%A5%E6%9C%AC%E8%AA%9E%E7%89%88image_captioning%E3%81%AE%E5%AD%A6%E7%BF%92%E6%8E%A8%E8%AB%96%E3%82%B3%E3%83%BC%E3%83%89%E3%82%92%E6%8F%90%E4%BE%9B%E3%81%99%E3%82%8B/ ひょんなことから最近Image Captioning(画像キャプション生成)を触っている だが, ググってもググっても日本語でImage Captioningしてる人があまりに居ない… コードを検索してもヒットしたのはこの子だけ…🤔 (しかもChainer …) https://github.com/yuyay/chainer_nic 日本語での画像キャプション生成界隈はプレイヤ YuWd (Yuiga Wada) featured image 機械学習 python post https://yuiga.dev/blog/en/ja/posts/%E7%9B%B8%E9%96%A2%E4%BF%82%E6%95%B0pearsonspearmankendall%E3%81%AE%E4%BD%BF%E3%81%84%E5%88%86%E3%81%91/ Sat, 24 Sep 2022 02:25:01 +0900 Sat, 24 Sep 2022 02:25:01 +0900 https://yuiga.dev/blog/en/ja/posts/%E7%9B%B8%E9%96%A2%E4%BF%82%E6%95%B0pearsonspearmankendall%E3%81%AE%E4%BD%BF%E3%81%84%E5%88%86%E3%81%91/ ピアソン $$ r_{xy} = \frac{{\displaystyle \sum_{i = 1}^n (x_i - \overline{x}) (y_i - \overline{y})}}{\sqrt{{\displaystyle \sum_{i = 1}^n (x_i - \overline{x})^2}} \sqrt{{\displaystyle \sum_{i = 1}^n (y_i - \overline{y})^2}}} = \frac{s_{xy}}{s_xs_y} $$ データ(X,Y)が連続で正規分布に従っていることが前提 なので外れ値に弱い スピアマン $$ \rho_{xy} = \frac{\sum_{i=1}^{n}(R(x_i) - \overline{R(x)})(R(y_i) - \overline{R(y)})} {\sqrt{\sum_{i=1}^{n}(R(x_i) - \overline{R(x)})^{2}\cdot\sum_{i=1}^{n}(R(y_i)-\overline{R(y)})^{2}}} = 1 - \frac{6\sum_{i=1}^{n}(R(x_i) - R(y_i))^{2}}{n(n^{2} - 1)} $$ $R(x)$は $x$の順位 順位をそのままピアソンの式に当てはめるイメージ 正規分布・連続という仮定がない分使い勝手が良い ケンドール $$ \tau_{xy} YuWd (Yuiga Wada) 数学 post https://yuiga.dev/blog/en/ja/posts/teamviewerssh%E3%81%A7%E3%83%91%E3%82%B9%E3%83%AF%E3%83%BC%E3%83%89%E3%82%92%E5%A4%89%E6%9B%B4%E3%81%99%E3%82%8B/ Fri, 16 Sep 2022 14:19:11 +0900 Fri, 16 Sep 2022 14:19:11 +0900 https://yuiga.dev/blog/en/ja/posts/teamviewerssh%E3%81%A7%E3%83%91%E3%82%B9%E3%83%AF%E3%83%BC%E3%83%89%E3%82%92%E5%A4%89%E6%9B%B4%E3%81%99%E3%82%8B/ TeamViewerでパスワードがわからなくなった どうやらsshで入れるならパスワードを変更できるらしい sudo teamviewer passwd [password] で任意のパスワード[password]に変更可 1 2 3 teamviewer info sudo teamviewer passwd [password] teamviewer info YuWd (Yuiga Wada) Network post https://yuiga.dev/blog/en/ja/posts/rayremote%E3%81%8C%E3%83%A1%E3%83%A2%E3%83%AA%E3%82%92%E5%A4%A7%E9%87%8F%E3%81%AB%E9%A3%9F%E3%81%86%E6%99%82%E3%81%AFray.put%E3%82%92%E4%BD%BF%E3%81%8A%E3%81%86/ Thu, 15 Sep 2022 23:31:33 +0900 Thu, 15 Sep 2022 23:31:33 +0900 https://yuiga.dev/blog/en/ja/posts/rayremote%E3%81%8C%E3%83%A1%E3%83%A2%E3%83%AA%E3%82%92%E5%A4%A7%E9%87%8F%E3%81%AB%E9%A3%9F%E3%81%86%E6%99%82%E3%81%AFray.put%E3%82%92%E4%BD%BF%E3%81%8A%E3%81%86/ はじめに rayとは → https://github.com/ray-project/ray 分散並列処理を簡単に書けるフレームワーク ray.remoteは怖い @ray.remoteが付された関数が使用するオブジェクトは, 呼び出される都度内部でray.put()が呼ばれ, データがメモリ上に展開される 若干この仕様が厄介で, ray.get()なんかを使うと, 同じオブジェクトを何度もメモリ上に展 YuWd (Yuiga Wada) python post https://yuiga.dev/blog/en/ja/posts/pycocoevalcap%E3%81%AEmeteor%E3%81%8C%E3%83%90%E3%82%B0%E3%82%8B_self.meteor_p.stdin.flush/ Thu, 08 Sep 2022 00:05:28 +0900 Thu, 08 Sep 2022 00:05:28 +0900 https://yuiga.dev/blog/en/ja/posts/pycocoevalcap%E3%81%AEmeteor%E3%81%8C%E3%83%90%E3%82%B0%E3%82%8B_self.meteor_p.stdin.flush/ なぜかpycocoevalcapでMETEORの計算が止まる問題 どうやらself.meteor_p.stdin.flush() あたりで止まっているらしい 結論から言えば, 俺の場合キャプションに\nが入っていたせいだった そもそもCOCO captions のキャプション自体結構汚いので注意 変な改行入ってたり, キャプションがなぜか6つあったり YuWd (Yuiga Wada) featured image python NLP post https://yuiga.dev/blog/en/ja/posts/stochastic_gradient_langevine_dynamics/ Mon, 05 Sep 2022 01:18:47 +0900 Mon, 05 Sep 2022 01:18:47 +0900 https://yuiga.dev/blog/en/ja/posts/stochastic_gradient_langevine_dynamics/ はじめに MCMCの一種 目標: ある分布 $\pi(x)$からのサンプリングを行いたい Metropolis-Hastingsアルゴリズム (MH) Hamiltonian Monte Carlo (HMC) Langevin Dynamics (Metropolis-adjusted Langevin Algorithm) Stochastic Gradient Langevin Dynamics (SGLD) の順に見ていくと理解しやすい Metropolis-Hastings Metropolis-Hastingsについては既知のもとする 提案分布 $q(z)$を元に判定関数を用いて受容・棄却を行うMCMC cf. YuWd (Yuiga Wada) 数学 機械学習 MCMC post https://yuiga.dev/blog/en/ja/posts/%E3%83%8F%E3%83%9F%E3%83%AB%E3%83%88%E3%83%8B%E3%82%A2%E3%83%B3/ Mon, 05 Sep 2022 01:18:09 +0900 Mon, 05 Sep 2022 01:18:09 +0900 https://yuiga.dev/blog/en/ja/posts/%E3%83%8F%E3%83%9F%E3%83%AB%E3%83%88%E3%83%8B%E3%82%A2%E3%83%B3/ 解析力学において, ハミルトニアンとは「系のエネルギーを座標と運動量で表したもの」 系のエネルギー自体を表すため, 時間変化せず時間 $t$に依存しない $\mathcal{K}$を運動エネルギー、 $\mathcal{U}$をポテンシャルエネルギーとして $$H := H(q,p;t) =\mathcal{K}(p)+\mathcal{U}(q)$$ ハミルトニアンの正準方程式 運動ベクトル $p_r$と座標ベクトル $q_ YuWd (Yuiga Wada) 数学 物理 post https://yuiga.dev/blog/en/ja/posts/%E5%BF%85%E8%A6%81%E3%81%AA%E3%82%82%E3%81%AE%E3%81%A0%E3%81%91pip_freeze%E3%81%99%E3%82%8B%E6%96%B9%E6%B3%95/ Sun, 04 Sep 2022 17:06:13 +0900 Sun, 04 Sep 2022 17:06:13 +0900 https://yuiga.dev/blog/en/ja/posts/%E5%BF%85%E8%A6%81%E3%81%AA%E3%82%82%E3%81%AE%E3%81%A0%E3%81%91pip_freeze%E3%81%99%E3%82%8B%E6%96%B9%E6%B3%95/ pipreqsという非常に便利なライブラリが存在する pipreqs . だけでimportされているライブラリだけを出力してくれる マジで便利 例 pipreqsを使えばこれが出力される 1 2 3 4 5 6 7 8 9 10 11 12 ❯ pipreqs . && cat requirements.txt colored_traceback==0.3.0 h5py==3.7.0 matplotlib==3.5.3 nltk==3.7 numpy==1.23.2 Pillow==9.2.0 pycocoevalcap==1.2 skimage==0.0 torch==1.8.2+cu111 torchvision==0.9.2+cu111 tqdm==4.64.0 pip freeze だとこれ 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 YuWd (Yuiga Wada) python misc post https://yuiga.dev/blog/en/ja/posts/a%E3%81%AEb%E5%95%8F%E9%A1%8C/ Wed, 31 Aug 2022 05:14:53 +0900 Wed, 31 Aug 2022 05:14:53 +0900 https://yuiga.dev/blog/en/ja/posts/a%E3%81%AEb%E5%95%8F%E9%A1%8C/ 名詞句「AのB」は意味が多い・曖昧すぎて, 非常に解析しにくい NLP界隈では「AのB」の怖さを徹底的に叩き込まれるらしい 先生曰く, 読み方は ✅ 「エー→のビー」 ❌「エー⤵のビー」 らしい KNPを作った京大黒橋研の論文 国語辞典を用いた名詞句「AのB」の意味解析 名詞に必須格の考え方を持ち込み, 国語辞典から「AのB」の解析=分類を試 YuWd (Yuiga Wada) NLP post https://yuiga.dev/blog/en/ja/posts/energy_based_model/ Sat, 27 Aug 2022 17:39:54 +0900 Sat, 27 Aug 2022 17:39:54 +0900 https://yuiga.dev/blog/en/ja/posts/energy_based_model/ Energy Based Model 生成モデルによく用いられる 拡散モデルとも関係が深い 分類回帰問題についてはYour classifier is secretly an energy based model and you should treat it like oneを参照 GANやVAE同様, データ $x$は何らかの高次元確率分布 $p(x)$からサンプリングされたものと仮定する EBMでは以下のように確率分布 $p(x)$を仮定し, $E_{\theta}(\boldsym YuWd (Yuiga Wada) featured image 機械学習 MCMC 数学 post https://yuiga.dev/blog/en/ja/posts/%E8%BF%B0%E8%AA%9E%E9%A0%85%E6%A7%8B%E9%80%A0/ Fri, 26 Aug 2022 22:04:55 +0900 Fri, 26 Aug 2022 22:04:55 +0900 https://yuiga.dev/blog/en/ja/posts/%E8%BF%B0%E8%AA%9E%E9%A0%85%E6%A7%8B%E9%80%A0/ 述語項構造とは、何がどうした、という述語とその項からなる構造のことである。 https://pyknp.readthedocs.io/en/latest/usage.html 「述語」に対して, 「項」と「格」が接続されている 引用: https://www.scribd.com/archive/plans?slideshare=true tips 述語項構造はJUMAN++とKNPで取り出せる JUMAN++はRNNベースの形態素解析ツール KNPは構文・格・照応解析システム Pythonからも使える https://pyknp.readthedocs.io/en/latest/ 両者をDockerから使えるように YuWd (Yuiga Wada) featured image NLP post https://yuiga.dev/blog/en/ja/posts/peter_anderson/ Fri, 26 Aug 2022 19:57:39 +0900 Fri, 26 Aug 2022 19:57:39 +0900 https://yuiga.dev/blog/en/ja/posts/peter_anderson/ すげえ人 SPICE SPICE: Semantic Propositional Image Caption Evaluation REVERIE REVERIE - Remote Embodied Visual Referring Expression in Real Indoor Environments Bottom-Up and Top-Down Attention for Image Captioning and Visual Question Answering Sim-to-Real Transfer for Vision-and-Language Navigation など, めちゃくちゃよく見る論文の著者 今はGoogleにいるらしい YuWd (Yuiga Wada) Vision-and-Language 機械学習 人物 post https://yuiga.dev/blog/en/ja/posts/%E3%82%B3%E3%83%94%E3%83%A5%E3%83%A9_copula/ Wed, 24 Aug 2022 02:23:25 +0900 Wed, 24 Aug 2022 02:23:25 +0900 https://yuiga.dev/blog/en/ja/posts/%E3%82%B3%E3%83%94%E3%83%A5%E3%83%A9_copula/ copula 別名: 「繋辞」 文の主語と述語を結ぶための品詞. つまり, X=Yの形式を作る品詞 例 日本語: 「だ」「です」…etc 英語: be動詞, become … etc 「Y＝Xと交換可能であり、2つの要素が一致すること」を指定（してい）、「Y＝Xとすることができず、YがXの属性を表すこと」を措定（そてい）と呼ぶ。これらを区別して表現する言語 YuWd (Yuiga Wada) NLP post https://yuiga.dev/blog/en/ja/posts/scrapbox%E3%81%A8hugo%E3%82%92%E5%90%8C%E6%9C%9F%E3%81%95%E3%81%9B%E3%82%8B/ Mon, 22 Aug 2022 20:34:06 +0900 Mon, 22 Aug 2022 20:34:06 +0900 https://yuiga.dev/blog/en/ja/posts/scrapbox%E3%81%A8hugo%E3%82%92%E5%90%8C%E6%9C%9F%E3%81%95%E3%81%9B%E3%82%8B/ Scrapboxと個人ブログ(Hugo)を同期させるようにした. scrapboxとクローラでも言及したが, 空のリンクに検索がヒットするのはよくないと思い, 同期を始めた. scrapbox自体は書き心地やUXが最高で手放したくないため, 一部ページを同期させ, 正しく検索結果が載るか試してみる. コードは以下に示す通り. scra YuWd (Yuiga Wada) misc SEO post https://yuiga.dev/blog/en/ja/posts/scrapbox%E3%81%A8%E3%82%AF%E3%83%AD%E3%83%BC%E3%83%A9/ Sat, 20 Aug 2022 19:28:12 +0900 Sat, 20 Aug 2022 19:28:12 +0900 https://yuiga.dev/blog/en/ja/posts/scrapbox%E3%81%A8%E3%82%AF%E3%83%AD%E3%83%BC%E3%83%A9/ 適当なページをcurlするとわかるが, scrapboxでは①「俺らが見てるページ」と②「クローラが見てるページ」が違う ①はServiceWorkerがブラウザ内で動的に生成しているもの ②はかなり簡素で, 本文のみがベタ書きされたものであり, 被リンクや1hop-linkなどは特に記述されない ここが問題で, ②は内部リンクを削 YuWd (Yuiga Wada) featured image misc SEO Network post https://yuiga.dev/blog/en/ja/posts/jornal_club/ Tue, 16 Aug 2022 22:48:50 +0900 Tue, 16 Aug 2022 22:48:50 +0900 https://yuiga.dev/blog/en/ja/posts/jornal_club/ 輪講資料 On the Versatile Uses of Partial Distance Correlation in Deep Learning Deep Learning without Shortcuts: Shaping the Kernel with Tailored Rectifiers Energy-Based Learning for Scene Graph Generation Do Transformers Really Perform Bad for Graph Representation? Prototypical Contrastive Learning of Unsupervised Representations Surrogate Gap Minimization Improves Sharpness-Aware Training Vision Transformer with Deformable Attention リンク https://scrapbox.io/yuwd/paper https://speakerdeck.com/keio_smilab YuWd (Yuiga Wada) post https://yuiga.dev/blog/en/ja/posts/google_%E4%BD%95%E3%81%8C%E3%81%AA%E3%82%93%E3%81%A7%E3%82%82%E7%88%86%E9%80%9F%E3%81%A7google%E6%A4%9C%E7%B4%A2%E7%B5%90%E6%9E%9C%E3%81%AB%E8%BC%89%E3%81%9B%E3%82%8B/ Tue, 16 Aug 2022 20:46:04 +0900 Tue, 16 Aug 2022 20:46:04 +0900 https://yuiga.dev/blog/en/ja/posts/google_%E4%BD%95%E3%81%8C%E3%81%AA%E3%82%93%E3%81%A7%E3%82%82%E7%88%86%E9%80%9F%E3%81%A7google%E6%A4%9C%E7%B4%A2%E7%B5%90%E6%9E%9C%E3%81%AB%E8%BC%89%E3%81%9B%E3%82%8B/ /nwtgck/管理外のWebサイトをGoogleの検索結果に載せたい はマジだった redirectサーバはサブドメインでもOK redirect先が同じドメインでもOKみたい 概要 とりあえず301を返してリダイレクトさせるようなリンクを作って, そいつらを登録したsitemapをgoogle search consoleに投げれば爆速でイ YuWd (Yuiga Wada) misc Network SEO post https://yuiga.dev/blog/en/ja/posts/vuforia_ar%E3%83%9E%E3%83%BC%E3%82%AB%E3%83%BC%E3%81%AF%E9%9D%9E%E5%AF%BE%E7%A7%B0%E3%81%AA%E9%85%8D%E7%BD%AE%E3%81%8C%E7%B2%BE%E5%BA%A6%E3%82%92%E4%B8%8A%E3%81%92%E3%82%8B/ Tue, 16 Aug 2022 20:45:55 +0900 Tue, 16 Aug 2022 20:45:55 +0900 https://yuiga.dev/blog/en/ja/posts/vuforia_ar%E3%83%9E%E3%83%BC%E3%82%AB%E3%83%BC%E3%81%AF%E9%9D%9E%E5%AF%BE%E7%A7%B0%E3%81%AA%E9%85%8D%E7%BD%AE%E3%81%8C%E7%B2%BE%E5%BA%A6%E3%82%92%E4%B8%8A%E3%81%92%E3%82%8B/ Vuforiaのマーカー検出精度はゴミ 出来るだけARマーカーの検出精度を上げたい Vuforiaは何を見てマーカーを判断しているのか？ コーナー検出っぽいのやって特徴量を抽出してる模様 https://library.vuforia.com/objects/best-practices-designing-and-developing-image-based-targets なるだけ特徴量をまばらに(=対称性を持たせない様式で)配置すると良いようだ 下の図はopencvでもvuforiaでも簡単に使えるARマーカ YuWd (Yuiga Wada) featured image CV post https://yuiga.dev/blog/en/ja/posts/github_%E8%87%AA%E5%88%86%E3%81%AEid%E3%81%AE%E5%85%A5%E3%81%A3%E3%81%9F%E4%BB%96%E4%BA%BA%E3%81%AE%E3%82%B3%E3%83%BC%E3%83%89%E3%82%92%E6%8E%A2%E3%81%99/ Tue, 16 Aug 2022 20:45:50 +0900 Tue, 16 Aug 2022 20:45:50 +0900 https://yuiga.dev/blog/en/ja/posts/github_%E8%87%AA%E5%88%86%E3%81%AEid%E3%81%AE%E5%85%A5%E3%81%A3%E3%81%9F%E4%BB%96%E4%BA%BA%E3%81%AE%E3%82%B3%E3%83%BC%E3%83%89%E3%82%92%E6%8E%A2%E3%81%99/ username -user:usernameで検索するとドバーッと出てくる 例: yuigawada -user:yuigawada https://github.com/search?o=desc&p=1&q=yuigawada+-user%3Ayuigawada&s=indexed&type=Code YuWd (Yuiga Wada) featured image misc post https://yuiga.dev/blog/en/ja/posts/golang_append%E3%81%AE%E6%8C%99%E5%8B%95/ Tue, 16 Aug 2022 20:45:44 +0900 Tue, 16 Aug 2022 20:45:44 +0900 https://yuiga.dev/blog/en/ja/posts/golang_append%E3%81%AE%E6%8C%99%E5%8B%95/ 1 2 s := append(str[:j], hoge...) s = append(s, str[j:]...) こういうコードでバグるときがある そもそもappendとはどういうものか？ append(str[:j](https://scrapbox.io/yuwd/%3Aj),hoge...)をすると, appendはまずcap(str)を見る cap(str)にhogeが入りきらないとわかると, より長い配列を作成 YuWd (Yuiga Wada) golang post https://yuiga.dev/blog/en/ja/posts/%E6%97%A5%E6%9C%AC%E8%AA%9E%E3%82%AD%E3%83%A3%E3%83%97%E3%82%B7%E3%83%A7%E3%83%B3%E3%83%87%E3%83%BC%E3%82%BF%E3%82%BB%E3%83%83%E3%83%88/ Mon, 15 Aug 2022 23:36:52 +0900 Mon, 15 Aug 2022 23:36:52 +0900 https://yuiga.dev/blog/en/ja/posts/%E6%97%A5%E6%9C%AC%E8%AA%9E%E3%82%AD%E3%83%A3%E3%83%97%E3%82%B7%E3%83%A7%E3%83%B3%E3%83%87%E3%83%BC%E3%82%BF%E3%82%BB%E3%83%83%E3%83%88/ STAIR MSCOCOにキャプションを付与 全部で820,310件のキャプション http://captions.stair.center/ Yuya Yoshikawa, Yutaro Shigeto, and Akikazu Takeuchi, “STAIR Captions: Constructing a Large-Scale Japanese Image Caption Dataset”, Annual Meeting of the Association for Computational Linguistics (ACL), Short Paper, 2017. YJ Captions 26k Dataset こちらもMSCOCOにキャプションを付与したもので, ACL2016 キャプション数がSTAIRの1/6程度 https://github.com/yahoojapan/YJCaptions Takashi Miyazaki and Nobuyuki Shimizu. 2016. Cross-Lingual Image Caption Generation. In Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers), pages 1780 YuWd (Yuiga Wada) 機械学習 NLP Vision-and-Language post https://yuiga.dev/blog/en/ja/posts/about_me_yuiga_wada_yuwd_%E5%92%8C%E7%94%B0%E5%94%AF%E6%88%91/ Mon, 15 Aug 2022 23:36:36 +0900 Mon, 15 Aug 2022 23:36:36 +0900 https://yuiga.dev/blog/en/ja/posts/about_me_yuiga_wada_yuwd_%E5%92%8C%E7%94%B0%E5%94%AF%E6%88%91/ Yuiga Wada (和田唯我) @YuigaWada (alias: YuWd) 慶應義塾大学 理工学部 情報工学科 M1 Computer Science | Philosophy | Literature Blog / Twitter / GitHub ブログを読んでほしい(切実) Skill Swift / Objective-C Python / PyTorch Rust Golang C++ / C C# OCaml Typescript: Vue, Nuxt, … etc Java Javascript psql Major Machine Learning Computer Science Fav & Hobby Philosophy Heidegger Husserl Literature Haruki Murakami Osamu Dazai Kobo Abe Anime Attack on Titan JOJO Programing 競プロ (AtCoder, Highest: 1545) iOS Web Frontend & Backend System Programming … ? Machine Learning (PyTorch) Survey paper 機械学習 Work iCimulator: iCimulator simulates camera functions on iOS Simulator with images, videos, or your MacBook Camera. (Swift) PolioPager: A flexible TabBarController library with search tab like SNKRS (Swift) CallSlicer : A tweak that enables your Apple Watch to YuWd (Yuiga Wada) featured image misc post https://yuiga.dev/blog/en/ja/posts/%E6%9C%80%E9%81%A9%E8%BC%B8%E9%80%81%E5%95%8F%E9%A1%8C/ Wed, 10 Aug 2022 18:01:34 +0900 Wed, 10 Aug 2022 18:01:34 +0900 https://yuiga.dev/blog/en/ja/posts/%E6%9C%80%E9%81%A9%E8%BC%B8%E9%80%81%E5%95%8F%E9%A1%8C/ 輸送コスト $C_{i,j}$と輸送量 $P_{i,j}$の積を最小化 これにエントロピー項のついた, 「エントロピー付き最適輸送コスト」問題になると, Sinkhorn-Knoppアルゴリズムが使える また, 双対問題はargminではなくargmaxとなる https://www.slideshare.net/joisino/ss-249394573?from_action=save tips 最適輸送はKLよりも良いことずくし 最適輸送は距離構造を利用できる 分布の YuWd (Yuiga Wada) featured image post https://yuiga.dev/blog/en/ja/posts/scrapbox%E3%81%AEcli-viewer%E4%BD%9C%E3%81%A3%E3%81%9F/ Wed, 03 Aug 2022 02:43:00 +0900 Wed, 03 Aug 2022 02:43:00 +0900 https://yuiga.dev/blog/en/ja/posts/scrapbox%E3%81%AEcli-viewer%E4%BD%9C%E3%81%A3%E3%81%9F/ Golangでなにか作ろうということで作ってみた https://github.com/YuigaWada/scrapbox-cli install → go install github.com/YuigaWada/scrapbox-cli/sbox@latest viewerとしての最低限の機能は作った レンダリング機能 bold → 太文字 hashtag → 背景青 link-color → 青文字 リンク機能 下の選択スペースから何hopでもリンク辿れる goroutineで読み込むためI/Oをブロックしない 検索機能 タイトルで検索可 YuWd (Yuiga Wada) featured image misc post https://yuiga.dev/blog/en/ja/posts/%E7%AB%B6%E3%83%97%E3%83%AD/ Tue, 02 Aug 2022 19:09:19 +0900 Tue, 02 Aug 2022 19:09:19 +0900 https://yuiga.dev/blog/en/ja/posts/%E7%AB%B6%E3%83%97%E3%83%AD/ 貪欲 deque スタック キュー グラフ化 (Graph) BFS DFS Bit全探索 DP 累積和 二次元累積和 尺取法 二分探索 Union-Find ソート ダイクストラ ベルマンフォード ワーシャルフロイド 最小全域木 PQ セグ木 最大流 スター型グラフ 二次元座標を二部グラフにする(ABC 131 F) dpはとりあえず立式したほうがいい Dpは解けなそうで何でも解けるので、亜種dpを徹底的に試すと良い ダブリング YuWd (Yuiga Wada) featured image 競プロ アルゴリズム post https://yuiga.dev/blog/en/ja/posts/monkey_saddle/ Tue, 02 Aug 2022 18:20:49 +0900 Tue, 02 Aug 2022 18:20:49 +0900 https://yuiga.dev/blog/en/ja/posts/monkey_saddle/ $z=x^3-3xy^2$をMonkey saddleと呼ぶらしい https://en.wikipedia.org/wiki/Monkey_saddle Monkey saddleは退化臨界点である (cf. Morse関数) YuWd (Yuiga Wada) featured image 数学 post https://yuiga.dev/blog/en/ja/posts/morse%E9%96%A2%E6%95%B0/ Tue, 02 Aug 2022 00:48:17 +0900 Tue, 02 Aug 2022 00:48:17 +0900 https://yuiga.dev/blog/en/ja/posts/morse%E9%96%A2%E6%95%B0/ M を n 次元可微分多様体とする． M 上の $C^∞$ 関数 $f : M → R$の臨界点 $p$が非退化であるとは， $f$ の $p$における Hessian $H_p(f)$ が正則行列となることである．すべての臨界点が非退化であるような関数を Morse 関数とよぶ． https://www.ms.u-tokyo.ac.jp/~kohno/lectures/g1-7.pdf YuWd (Yuiga Wada) 数学 post https://yuiga.dev/blog/en/ja/posts/toronto_paper_matching_system/ Sun, 31 Jul 2022 17:44:35 +0900 Sun, 31 Jul 2022 17:44:35 +0900 https://yuiga.dev/blog/en/ja/posts/toronto_paper_matching_system/ YuWd (Yuiga Wada) misc 論文 post https://yuiga.dev/blog/en/ja/posts/rpn/ Sat, 30 Jul 2022 23:21:29 +0900 Sat, 30 Jul 2022 23:21:29 +0900 https://yuiga.dev/blog/en/ja/posts/rpn/ Resion Proposal Network 背景なのか, 物体が写っているのかだけを識別するサブモジュール Faster-RCNNにおいては, ①RPNで領域を絞ってから, ②それぞれ個々の物体についてラベルを絞っていく Faster-RCNNの学習では, 「RPNの重み更新→モデル全体の重み更新」を繰り返して学習 RPNでは, Anchor boxが背景か物体か / 物体ならばGTとの YuWd (Yuiga Wada) featured image 機械学習 post https://yuiga.dev/blog/en/ja/posts/wl_test/ Thu, 28 Jul 2022 23:38:47 +0900 Thu, 28 Jul 2022 23:38:47 +0900 https://yuiga.dev/blog/en/ja/posts/wl_test/ 引用: https://davidbieber.com/post/2019-05-10-weisfeiler-lehman-isomorphism-test/ 正式名称: The Weisfeiler-Lehman Isomorphism Test グラフが同型であるかチェックするアルゴリズム 各ノード $i$に適当なラベル $C_i = 1$を割り当てる 隣接するノードの多重集合 $L_i$をノードに記録する 多重集合 $L_i$をハッシュに通して新たな $C_i$を得る ( $C_i \leftarrow hash(L_i)$) 以上を繰り返して, ノードの分割 ${C_i}$が収束したら停止 ２つのグラフが[* 同じ $ YuWd (Yuiga Wada) featured image Graph 数学 post https://yuiga.dev/blog/en/ja/posts/p4m%E7%BE%A4/ Tue, 26 Jul 2022 22:14:09 +0900 Tue, 26 Jul 2022 22:14:09 +0900 https://yuiga.dev/blog/en/ja/posts/p4m%E7%BE%A4/ 任意の並進操作 + 任意の90度回転操作を元とする集合が群であるとき, p4群と呼ぶ さらに鏡映操作についても群ならばp4m群と呼ぶ 一般にpn群は回転対称数が360°/n 回であり, 鏡映対称性が成り立つならばsuffixにmが付く YuWd (Yuiga Wada) 群論 post https://yuiga.dev/blog/en/ja/posts/%E3%81%AA%E3%81%9Cerrno%E3%81%8C%E5%BF%85%E8%A6%81%E3%81%8B/ Mon, 25 Jul 2022 18:11:57 +0900 Mon, 25 Jul 2022 18:11:57 +0900 https://yuiga.dev/blog/en/ja/posts/%E3%81%AA%E3%81%9Cerrno%E3%81%8C%E5%BF%85%E8%A6%81%E3%81%8B/ 例えばfopenなど, そもそも構造体やポインタを返すようなものだと, エラーハンドリングがしにくい じゃあ常にタプルっぽく返せばいいんじゃない？ エラーハンドリングが必要ない場合, 普通のCだと非常に煩雑になり得る メモリの解放とかめんどいし そこで, グローバルなerrnoが設計された 現在の多くの言語ではタプルを返すことができるの YuWd (Yuiga Wada) C post https://yuiga.dev/blog/en/ja/posts/referitgame/ Mon, 25 Jul 2022 12:23:45 +0900 Mon, 25 Jul 2022 12:23:45 +0900 https://yuiga.dev/blog/en/ja/posts/referitgame/ 画像-参照表現におけるデータセット 割と大きいデータセットみたい the game has produced a dataset containing 130,525 expressions, referring to 96,654 distinct objects, in 19,894 photographs of natural scenes. ゲーム形式でアノテーションされる アノテータは二人 二人でアノテーションを行う まずプレイヤーAがキャプションを考える 次にもうひとりのプレイヤーBがそのキャプションが正しいかを当てる BはAのキャプションが指している物体をクリ YuWd (Yuiga Wada) featured image 機械学習 dataset post https://yuiga.dev/blog/en/ja/posts/pca_color_augmentation_pcaca/ Mon, 25 Jul 2022 01:02:44 +0900 Mon, 25 Jul 2022 01:02:44 +0900 https://yuiga.dev/blog/en/ja/posts/pca_color_augmentation_pcaca/ AlexNetで使われたらしいData augumentation手法 そんなに使われてるイメージはない. 古代の手法？？ Fancy PCA / PCACAとも言うらしい？(要出典) 画像中の色の分布を考慮したデータ拡張ができる 例えば, 明るいところは明るく, 暗いところは暗く調節できる 流れは簡単 $C\times H\times W$をflattenして, $C\times HW$にする 各チャネ YuWd (Yuiga Wada) CV 機械学習 post https://yuiga.dev/blog/en/ja/posts/perspective-n-point%E5%95%8F%E9%A1%8C/ Sat, 23 Jul 2022 23:47:26 +0900 Sat, 23 Jul 2022 23:47:26 +0900 https://yuiga.dev/blog/en/ja/posts/perspective-n-point%E5%95%8F%E9%A1%8C/ 世界座標系における3D点群と, それらに対応する2D画像が与えられた場合において, カメラのポーズ推定を行う問題 カメラのポーズは平行移動と回転の6DOFで, Perspective-n-Point問題はPnPと略されることが多い P3Pは最低三点あれば解ける 一般化されたPnPを解くアルゴリズムは様々ある EPnP SQPnP: A Consistently Fast and Globally Optimal Solution to the Perspective-n-Point YuWd (Yuiga Wada) CV post https://yuiga.dev/blog/en/ja/posts/sqpnp_a_consistently_fast_and_globally_optimal_solution_to_the_perspective-n-point_problem/ Sat, 23 Jul 2022 21:47:17 +0900 Sat, 23 Jul 2022 21:47:17 +0900 https://yuiga.dev/blog/en/ja/posts/sqpnp_a_consistently_fast_and_globally_optimal_solution_to_the_perspective-n-point_problem/ ECCV2020 YuWd (Yuiga Wada) CV post https://yuiga.dev/blog/en/ja/posts/ntk/ Sun, 17 Jul 2022 23:41:03 +0900 Sun, 17 Jul 2022 23:41:03 +0900 https://yuiga.dev/blog/en/ja/posts/ntk/ Neural Tangent Kernel 以下に示すようなカーネル $$k_{\mathrm{NTK}}(x_i, x_j) = E_{\theta \sim \N} \left\langle \frac{\partial f(x_i; \theta)}{\partial \theta}, \frac{\partial f(x_j; \theta)}{\partial \theta} \right\rangle$$ 特に, 入力をhypersphereに限定すると, MLPのNTKは $h_{\mathrm{NTK}}(\mathbf x_i^\top \mathbf x_j)$と内積の形で書ける 幅が無限にデカイ全結合層を考えると, 重みはほとんど初期値の近くしか動かず, このモデルはNTKによるカーネル回帰と同じ挙動をする(らしい) なので, NNの解析がかな YuWd (Yuiga Wada) 機械学習 数学 post https://yuiga.dev/blog/en/ja/posts/canny%E6%B3%95/ Sat, 16 Jul 2022 03:09:44 +0900 Sat, 16 Jul 2022 03:09:44 +0900 https://yuiga.dev/blog/en/ja/posts/canny%E6%B3%95/ かなり古い(1986年)エッジ検出手法 授業で使ってるチームがいたので気になって調べてみた 流れ ノイズをへらすため, ガウシアンフィルタ ソーベルフィルタを用いて画素値を微分し, 勾配と法線ベクトルを求める →ついでにこれで輪郭を抽出したことになる 抽出した輪郭線を細くしていく → ある画素 $x$に注目したとき, 法線方向に隣接する2点を YuWd (Yuiga Wada) featured image CV post https://yuiga.dev/blog/en/ja/posts/sighup/ Fri, 15 Jul 2022 00:54:30 +0900 Fri, 15 Jul 2022 00:54:30 +0900 https://yuiga.dev/blog/en/ja/posts/sighup/ ターミナルの終了時やハングアップによって送られるシグナル DHCPを作成する演習で, SIGHUPをハンドリングしろと言われてピンと来なかったが どうやら サーバプロセスの多くはSIGHUPを受け取るとプロセスを終了して再起動する https://atmarkit.itmedia.co.jp/ait/articles/1708/04/news015.html らしいので, 合点。 nohupを使えばSIGHUPがプロセスへ送られないようにできるらしい https://qiita.com/f0o0o/items/7f9dfaf3f7392c0ce52f YuWd (Yuiga Wada) Computer shell post https://yuiga.dev/blog/en/ja/posts/tailwindcss/ Wed, 13 Jul 2022 02:58:08 +0900 Wed, 13 Jul 2022 02:58:08 +0900 https://yuiga.dev/blog/en/ja/posts/tailwindcss/ 最近, Tailwind + Hugoでポートフォリオを作り直した → https://yuiga.dev TailwindCSS めちゃんこ高速に書けるのでとても良い 感覚としてはキーバインドとか, スニペットに通じる キーバインドでスニペット貼ってる感覚 メンテナンス面はどうなの？ https://tailwindcss.com/docs/reusing-styles#extracting-template-components によると Utility-Firstに則り, 「CSSを定義するのではなく, コンポーネント化しろ」とのこと なるほど, ここにV YuWd (Yuiga Wada) featured image Network CSS post https://yuiga.dev/blog/en/ja/posts/%E5%86%8D%E7%94%9F%E6%A0%B8%E3%83%92%E3%83%AB%E3%83%99%E3%83%AB%E3%83%88%E7%A9%BA%E9%96%93/ Tue, 12 Jul 2022 18:09:45 +0900 Tue, 12 Jul 2022 18:09:45 +0900 https://yuiga.dev/blog/en/ja/posts/%E5%86%8D%E7%94%9F%E6%A0%B8%E3%83%92%E3%83%AB%E3%83%99%E3%83%AB%E3%83%88%E7%A9%BA%E9%96%93/ 再生性 $f(x) = <f,\phi(x)>_{\mathcal{H}}$ 「再生核ヒルベルト空間」= 再生性が成り立つヒルベルト空間 todo YuWd (Yuiga Wada) ヒルベルト空間 post https://yuiga.dev/blog/en/ja/posts/%E3%83%92%E3%83%AB%E3%83%99%E3%83%AB%E3%83%88%E7%A9%BA%E9%96%93/ Tue, 12 Jul 2022 18:01:45 +0900 Tue, 12 Jul 2022 18:01:45 +0900 https://yuiga.dev/blog/en/ja/posts/%E3%83%92%E3%83%AB%E3%83%99%E3%83%AB%E3%83%88%E7%A9%BA%E9%96%93/ ベクトル空間 $\supset$ 内積空間 $\supset$ ヒルベルト空間 まず「ベクトル空間」について ベクトル空間の公理 (群論を想起すれば自然と思い出せる) 加法について閉じており, 零元, 逆元が存在 / 結合則・交換則が成立 スカラー積について閉じており, 零元, 逆元が存在 / 結合則が成立 スカラー積と加法の間で分配法則が成立 $$\lambda (a+b)=\lambda a + \lambda b$$ こいつらが成り立てばまずはベク YuWd (Yuiga Wada) 数学 post https://yuiga.dev/blog/en/ja/posts/mpi_multiplane_image/ Tue, 12 Jul 2022 16:42:52 +0900 Tue, 12 Jul 2022 16:42:52 +0900 https://yuiga.dev/blog/en/ja/posts/mpi_multiplane_image/ 画像を複数レイヤーの重なりとして分解する →MPI表現 YuWd (Yuiga Wada) featured image CV post https://yuiga.dev/blog/en/ja/posts/%E3%82%B9%E3%83%88%E3%83%AC%E3%82%B9%E3%81%AA%E3%81%8Fpdb%E3%82%92%E4%BD%BF%E3%81%86%E6%96%B9%E6%B3%95/ Mon, 11 Jul 2022 21:04:09 +0900 Mon, 11 Jul 2022 21:04:09 +0900 https://yuiga.dev/blog/en/ja/posts/%E3%82%B9%E3%83%88%E3%83%AC%E3%82%B9%E3%81%AA%E3%81%8Fpdb%E3%82%92%E4%BD%BF%E3%81%86%E6%96%B9%E6%B3%95/ TL;DR pdbを使おうとすると, ブレークポイントが必要かどうかに拘らずcを入力する必要がある →ストレス😠 -m pdbだけでなく-c cをつけると自動でpdbモードに入ってくれる →ストレスフリー✨ 1 python -m pdb -c c main.py なので ~/.zshrcに 1 alias pdb="python -m pdb -c c" とでも書いておけば, デバッグしたいときにpythonをpdbに変えてしまうだけでいいの YuWd (Yuiga Wada) python post https://yuiga.dev/blog/en/ja/posts/note%E3%81%AE%E3%83%90%E3%83%83%E3%82%AF%E3%82%A2%E3%83%83%E3%83%97%E3%82%92%E5%8F%96%E3%82%8B/ Sun, 10 Jul 2022 00:57:47 +0900 Sun, 10 Jul 2022 00:57:47 +0900 https://yuiga.dev/blog/en/ja/posts/note%E3%81%AE%E3%83%90%E3%83%83%E3%82%AF%E3%82%A2%E3%83%83%E3%83%97%E3%82%92%E5%8F%96%E3%82%8B/ 現段階でそういうのはないらしい ということで作った → noteバックアップ 記事→ noteをバックアップ・エクスポートするWebサービスを作った (画像可・他ブログへの移行可) 「個人ブログ/Qiita/Zenn/Scrapbox/note 使い分け」を書いているときにふと思いついた そのまま勢いで日曜丸一日を潰して作ってしもうた 今 YuWd (Yuiga Wada) featured image misc post https://yuiga.dev/blog/en/ja/posts/ar5iv%E3%81%AE%E3%82%B3%E3%83%BC%E3%83%89%E3%82%92%E8%AA%AD%E3%82%80/ Thu, 07 Jul 2022 11:05:35 +0900 Thu, 07 Jul 2022 11:05:35 +0900 https://yuiga.dev/blog/en/ja/posts/ar5iv%E3%81%AE%E3%82%B3%E3%83%BC%E3%83%89%E3%82%92%E8%AA%AD%E3%82%80/ https://github.com/dginev/ar5iv 前提: arxivは投稿時, texをアップロードしなければならない ar5iv: 裏でクローラを回して, latexmlをキャッシュしてるだけっぽい 最終的にHTMLに変換されたものをzipで固めてサーバ上で管理 レンダリング時はzipを展開して独自のCSSで書き換えたものを表示 Rust製 YuWd (Yuiga Wada) misc 論文 Rust post https://yuiga.dev/blog/en/ja/posts/%E6%96%B9%E7%AD%96%E3%82%A8%E3%83%B3%E3%83%88%E3%83%AD%E3%83%94%E3%83%BC/ Thu, 07 Jul 2022 01:14:08 +0900 Thu, 07 Jul 2022 01:14:08 +0900 https://yuiga.dev/blog/en/ja/posts/%E6%96%B9%E7%AD%96%E3%82%A8%E3%83%B3%E3%83%88%E3%83%AD%E3%83%94%E3%83%BC/ 探索空間において探索されたことで更新される情報量 情報エントロピー, もしくは方策の対数尤度の期待値と考えればOK $$\displaystyle{H(\pi( \cdot | s_t)) = \sum_{a} {-\pi(a | s)\log\pi(a | s)} = E_{a\sim\pi} \left[ {-\log\pi(a | s)} \right \rbrack}$$ 引用: https://horomary.hatenablog.com/entry/2020/12/20/115439 YuWd (Yuiga Wada) featured image 強化学習 post https://yuiga.dev/blog/en/ja/posts/sacsoft-actor-critic/ Thu, 07 Jul 2022 00:57:58 +0900 Thu, 07 Jul 2022 00:57:58 +0900 https://yuiga.dev/blog/en/ja/posts/sacsoft-actor-critic/ Actor-Critic型のSoft-Q学習 Soft-Q学習とは簡単に言うと, 報酬 + 方策エントロピーを目的関数に据える学習手法 SAC(Soft-Actor-Critic)の理論的背景はSoft-Q学習からきており、従来の目的関数に方策エントロピー項を加え、より多様な探索を可能にした手法です。 エントロピー項は正則化の役割 YuWd (Yuiga Wada) 強化学習 post https://yuiga.dev/blog/en/ja/posts/wikipedia%E3%81%AEtex%E3%82%92%E3%82%B3%E3%83%94%E3%83%9A%E3%81%99%E3%82%8B/ Wed, 06 Jul 2022 22:53:20 +0900 Wed, 06 Jul 2022 22:53:20 +0900 https://yuiga.dev/blog/en/ja/posts/wikipedia%E3%81%AEtex%E3%82%92%E3%82%B3%E3%83%94%E3%83%9A%E3%81%99%E3%82%8B/ WikipediaはMathJaxを使っているので(ホントか？), 画像を新規タブで開けばタイトルにtex表記が記述されている なので, 画像を新規タブで開く→ソースコードを表示→titleタグの部分をコピペすればOK 例 $${\displaystyle \langle S\rangle ={s_{k_{1}}^{e_{k_{1}}}s_{k_{2}}^{e_{k_{2}}}\cdots s_{k_{m}}^{e_{k_{m}}}\mid \exists m\in \mathbb {N} ,(k_{1},\ldots ,k_{m})\in \mathbb {N} ^{m},e_{k_{j}}\in \mathbb {N} ,s_{k_{j}}\in S}.}$$ YuWd (Yuiga Wada) featured image misc tex post https://yuiga.dev/blog/en/ja/posts/impact_factor/ Wed, 06 Jul 2022 22:44:00 +0900 Wed, 06 Jul 2022 22:44:00 +0900 https://yuiga.dev/blog/en/ja/posts/impact_factor/ 学術雑誌の影響力を測る指標らしい (そんなのあるんだ) 今年の被引用数を過去2年分のPublicationで割る $\displaystyle {\text{IF}}_{y}={\frac {{\text{Citations}}_{y}}{{\text{Publications}}_{y-1}+{\text{Publications}}_{y-2}}}.$ YuWd (Yuiga Wada) 論文 post https://yuiga.dev/blog/en/ja/posts/%E6%AE%8B%E5%B7%AE%E6%8E%A5%E7%B6%9A/ Tue, 05 Jul 2022 10:44:22 +0900 Tue, 05 Jul 2022 10:44:22 +0900 https://yuiga.dev/blog/en/ja/posts/%E6%AE%8B%E5%B7%AE%E6%8E%A5%E7%B6%9A/ 残差の何がうれしいか？ そのモジュールが特徴量変換器として必要なければスキップすることができる 言い換えれば, 恒等変換が起点となるので, 恒等写像が簡単に実現できる YuWd (Yuiga Wada) 機械学習 post https://yuiga.dev/blog/en/ja/posts/%E3%83%AA%E3%83%97%E3%82%B7%E3%83%83%E3%83%84%E9%80%A3%E7%B6%9A/ Mon, 04 Jul 2022 12:16:49 +0900 Mon, 04 Jul 2022 12:16:49 +0900 https://yuiga.dev/blog/en/ja/posts/%E3%83%AA%E3%83%97%E3%82%B7%E3%83%83%E3%83%84%E9%80%A3%E7%B6%9A/ 関数 $f(x)$ がリプシッツ連続である $\Leftrightarrow \exist k, \forall x_1, x_2 , |f(x_1)-f(x_2)|\leq k|x_1-x_2|$ 機械学習において, 摂動 $e$を与えた場合の解析に良く用いられるword (ホントか？) すなわち, リプシッツ連続であれば, $|f(x+e)-f(x)|\leq k|e|$ が成り立つので, 摂動に強い分類器であると言える. YuWd (Yuiga Wada) 数学 post https://yuiga.dev/blog/en/ja/posts/tex/ Fri, 01 Jul 2022 01:11:08 +0900 Fri, 01 Jul 2022 01:11:08 +0900 https://yuiga.dev/blog/en/ja/posts/tex/ \setlength{\baselineskip}{10pt} で「行間 + 文字の高さ」が10ptになる YuWd (Yuiga Wada) post https://yuiga.dev/blog/en/ja/posts/hessian%E3%81%AE%E5%9B%BA%E6%9C%89%E5%80%A4%E3%81%A8%E3%83%95%E3%83%A9%E3%83%83%E3%83%88%E3%81%95/ Thu, 30 Jun 2022 17:40:21 +0900 Thu, 30 Jun 2022 17:40:21 +0900 https://yuiga.dev/blog/en/ja/posts/hessian%E3%81%AE%E5%9B%BA%E6%9C%89%E5%80%A4%E3%81%A8%E3%83%95%E3%83%A9%E3%83%83%E3%83%88%E3%81%95/ Hessianの固有値は等高線の密度を表現する どの方向に勾配が, どの程度早く移動するか なので, 最大固有値が小さいと損失平面はフラットになる (等高線の密度がどの方向にも低い) YuWd (Yuiga Wada) featured image 数学 post https://yuiga.dev/blog/en/ja/posts/sergey_levine/ Thu, 30 Jun 2022 11:13:36 +0900 Thu, 30 Jun 2022 11:13:36 +0900 https://yuiga.dev/blog/en/ja/posts/sergey_levine/ ロボティクス系で結構すごい人らしい YuWd (Yuiga Wada) 人物 post https://yuiga.dev/blog/en/ja/posts/cors/ Wed, 29 Jun 2022 21:26:50 +0900 Wed, 29 Jun 2022 21:26:50 +0900 https://yuiga.dev/blog/en/ja/posts/cors/ Cross-Origin Resource Sharing オリジンとは, プロトコル + ドメイン + ポート のこと つまり, CORSとは同じオリジン間でのリソースの共有のこと なので, オリジンが異なるリクエストは基本CORSエラーが起きる YuWd (Yuiga Wada) Network Network post https://yuiga.dev/blog/en/ja/posts/%E7%BE%8E%E5%91%B3%E3%81%97%E3%81%84%E7%89%A1%E8%A0%A3%E3%83%95%E3%83%A9%E3%82%A4%E3%81%AE%E9%A3%9F%E3%81%B9%E6%96%B9/ Wed, 29 Jun 2022 01:45:24 +0900 Wed, 29 Jun 2022 01:45:24 +0900 https://yuiga.dev/blog/en/ja/posts/%E7%BE%8E%E5%91%B3%E3%81%97%E3%81%84%E7%89%A1%E8%A0%A3%E3%83%95%E3%83%A9%E3%82%A4%E3%81%AE%E9%A3%9F%E3%81%B9%E6%96%B9/ 一度ブログに読書録を書いた 牡蠣フライ理論について YuWd (Yuiga Wada) 村上春樹 post https://yuiga.dev/blog/en/ja/posts/%E6%9D%91%E4%B8%8A%E6%98%A5%E6%A8%B9%E6%B2%B3%E5%90%88%E9%9A%BC%E9%9B%84%E3%81%AB%E4%BC%9A%E3%81%84%E3%81%AB%E3%81%84%E3%81%8F/ Wed, 29 Jun 2022 00:00:23 +0900 Wed, 29 Jun 2022 00:00:23 +0900 https://yuiga.dev/blog/en/ja/posts/%E6%9D%91%E4%B8%8A%E6%98%A5%E6%A8%B9%E6%B2%B3%E5%90%88%E9%9A%BC%E9%9B%84%E3%81%AB%E4%BC%9A%E3%81%84%E3%81%AB%E3%81%84%E3%81%8F/ p132-134 村上: ただ、ぼくが「ねじまき鳥クロニクル」に関 して感ずるのは、何がどういう意味を持っているの かということが、自分でもまったくわからないとい うことなのです。これまで書いてきたどの小説にも まして、わからない。 たとえば、「世界の終りとハードボイルド・ワン ダーランド」は、かなり同じような手法で書いたも のではあるのですが、ある YuWd (Yuiga Wada) 読書録 post https://yuiga.dev/blog/en/ja/posts/twitter/ Tue, 28 Jun 2022 22:21:46 +0900 Tue, 28 Jun 2022 22:21:46 +0900 https://yuiga.dev/blog/en/ja/posts/twitter/ AboutMeでTweetの有害性について書いたが, とても良く言語化されている以下の記事達を発見した. /shokai/承認欲求の刺激につながる機能を全て排除する /shokai/人間には承認欲求を刺激すると知能が下がるバグがある YuWd (Yuiga Wada) misc post https://yuiga.dev/blog/en/ja/posts/reinforce/ Mon, 27 Jun 2022 17:47:00 +0900 Mon, 27 Jun 2022 17:47:00 +0900 https://yuiga.dev/blog/en/ja/posts/reinforce/ 単純な方策勾配方法では $$\nabla J(\theta) = \mathrm{E}_{\tau_\theta} \lbrack \sum_t G(\tau) \nabla log \pi_\theta (A_t|S_t) \rbrack$$ が使われていたが, 全ての時刻 $t$において収益 $G(\tau)$が一律に使用されているのが気がかりである 重要なのは, 時刻 $t$の行動の後の評価であるから, $\lbrack0,t)$の収益はノイズとなり得る そこで, REINFORCEでは以下のように勾配を変更する $$\nabla J(\theta) = \mathrm{E}_{\tau_\theta} \lbrack \sum_t G_t YuWd (Yuiga Wada) 強化学習 post https://yuiga.dev/blog/en/ja/posts/%E5%BC%B7%E5%8C%96%E5%AD%A6%E7%BF%92/ Mon, 27 Jun 2022 13:44:55 +0900 Mon, 27 Jun 2022 13:44:55 +0900 https://yuiga.dev/blog/en/ja/posts/%E5%BC%B7%E5%8C%96%E5%AD%A6%E7%BF%92/ 引用: ゼロから作るDeep Learning ❹ ―強化学習編 価値を如何に定めるか？ 状態 $s$と方策 $\pi$で決める→状態価値関数 状態 $s$と方策 $\pi$と行動 $a$で決める→行動価値関数 (Q関数) 方策 $\pi$はグラフ遷移そのものと等しい存在 例えば, $\pi(a|s)$は状態 $s$から行動 $a$を実行する確率を表す 価値ベース手法 価値 YuWd (Yuiga Wada) featured image post https://yuiga.dev/blog/en/ja/posts/ppo/ Mon, 27 Jun 2022 11:35:06 +0900 Mon, 27 Jun 2022 11:35:06 +0900 https://yuiga.dev/blog/en/ja/posts/ppo/ YuWd (Yuiga Wada) post https://yuiga.dev/blog/en/ja/posts/td%E6%B3%95/ Sun, 26 Jun 2022 23:32:14 +0900 Sun, 26 Jun 2022 23:32:14 +0900 https://yuiga.dev/blog/en/ja/posts/td%E6%B3%95/ DP法とMC法の中間 MCの場合, 終端までわかってないと使えなかった なので, 1ステップの状態に対してサンプリングを行い, 評価→行動 引用: ゼロから作るDeep Learning ❹ ―強化学習編 YuWd (Yuiga Wada) featured image 強化学習 post https://yuiga.dev/blog/en/ja/posts/dqn/ Sun, 26 Jun 2022 23:32:02 +0900 Sun, 26 Jun 2022 23:32:02 +0900 https://yuiga.dev/blog/en/ja/posts/dqn/ Q学習は推定値 $E_t$ を使って推定値 $E_{t+1}$を更新する (これをブートストラップと呼ぶ) ゆえにQ学習は不安定なのだが, NNを加えると更に不安定になりやすい DQNでは, 推定値 $E_t$ と推定値 $E_{t+1}$の相関が強くなりすぎないように「経験再生」と「ターゲットネットワーク」と呼ばれるものを導入する 経験再生 過去の状態や行動 YuWd (Yuiga Wada) 強化学習 post https://yuiga.dev/blog/en/ja/posts/mc%E6%B3%95/ Sun, 26 Jun 2022 23:01:29 +0900 Sun, 26 Jun 2022 23:01:29 +0900 https://yuiga.dev/blog/en/ja/posts/mc%E6%B3%95/ モンテカルロ法 二次グリッド上の経路探索問題なら, 状態 $s$ は $(i,j)$の各マス 方策 $\pi$に準じて $N$回行動 $a$をサンプリング 移動先の状態 $s_k$と収益 $G_t(s_k)$を記録 終端まで収益 $G_t(s_k)$を計算 最後に各状態 $s$の収益 $G_t(s_k)$の平均を取る [* 行動 $a$をサンプリングしている点に注 YuWd (Yuiga Wada) featured image 強化学習 post https://yuiga.dev/blog/en/ja/posts/agi/ Sun, 26 Jun 2022 21:14:09 +0900 Sun, 26 Jun 2022 21:14:09 +0900 https://yuiga.dev/blog/en/ja/posts/agi/ 中国語の部屋 YuWd (Yuiga Wada) post https://yuiga.dev/blog/en/ja/posts/dagger_algorithm/ Sun, 26 Jun 2022 17:15:40 +0900 Sun, 26 Jun 2022 17:15:40 +0900 https://yuiga.dev/blog/en/ja/posts/dagger_algorithm/ 状態: $s \in S$ 行動: $a \in A$ 方策: $\pi$ $\pi : S \rightarrow A$ と定義 累積的にデータセットを増やしながら方策を学習していく感じ 誤差が少ないらしい YuWd (Yuiga Wada) featured image 模倣学習 強化学習 post https://yuiga.dev/blog/en/ja/posts/%E4%B8%89%E5%B3%B6%E7%94%B1%E7%B4%80%E5%A4%AB/ Sun, 26 Jun 2022 17:03:01 +0900 Sun, 26 Jun 2022 17:03:01 +0900 https://yuiga.dev/blog/en/ja/posts/%E4%B8%89%E5%B3%B6%E7%94%B1%E7%B4%80%E5%A4%AB/ 「私の鼻は大きくて魅力的でしよ」などと頑張つてゐる女の子より、美の規格を外れた鼻に絶望して、人生を呪つてゐる女の子のはうを愛します。それが「生きてゐる」といふことだからです。 YuWd (Yuiga Wada) post https://yuiga.dev/blog/en/ja/posts/%E3%83%9E%E3%83%AB%E3%83%81%E3%83%A2%E3%83%BC%E3%83%80%E3%83%AB%E7%9F%A5%E8%AD%98%E3%82%B0%E3%83%A9%E3%83%95/ Sun, 26 Jun 2022 12:14:41 +0900 Sun, 26 Jun 2022 12:14:41 +0900 https://yuiga.dev/blog/en/ja/posts/%E3%83%9E%E3%83%AB%E3%83%81%E3%83%A2%E3%83%BC%E3%83%80%E3%83%AB%E7%9F%A5%E8%AD%98%E3%82%B0%E3%83%A9%E3%83%95/ YuWd (Yuiga Wada) multi-modal post https://yuiga.dev/blog/en/ja/posts/atcoder_alert/ Sun, 26 Jun 2022 11:34:38 +0900 Sun, 26 Jun 2022 11:34:38 +0900 https://yuiga.dev/blog/en/ja/posts/atcoder_alert/ AtCoder Alert (https://yuiga.dev/atcoder-alert ) を久々にメンテした (2022-06-20) 勉強目的で作っただけで, 特に宣伝も何もしていないのに(当の本人すら使っていない), ここまで波及するとはビックリ 一つだけ仕込んでおいた"仕掛け"が機能したようだ 波及に気づいたときには仕掛け学的カタルシスを感じた 素直に言えば, うれしい気持ちでいっぱいである https://twitter.com/search?q=yuiga.dev%2Fatcoder-alert&src=typed_query&f=live 中身は単純 Nuxt + TS + YuWd (Yuiga Wada) featured image Typescript misc post https://yuiga.dev/blog/en/ja/posts/epipolar/ Sun, 26 Jun 2022 11:18:19 +0900 Sun, 26 Jun 2022 11:18:19 +0900 https://yuiga.dev/blog/en/ja/posts/epipolar/ 「カメラ $O_L$から見て $X_L$に物体が写っている」とき、「カメラ $O_R$ から見てどこに物体が写るか」の候補 https://qiita.com/Thought_Nibbler/items/9cb7c2637000eecc1a30 “平行な目"では, epipolar lineは平行になる https://gyazo.com/0357ac0708ea93a2036c5c88a388a321[https://gyazo.com/73088515f6591c4dc94313d88accc163] YuWd (Yuiga Wada) featured image CV Homography エピポーラ post https://yuiga.dev/blog/en/ja/posts/aic_%E8%B5%A4%E6%B1%A0%E6%83%85%E5%A0%B1%E9%87%8F%E5%9F%BA%E6%BA%96/ Sat, 25 Jun 2022 04:37:43 +0900 Sat, 25 Jun 2022 04:37:43 +0900 https://yuiga.dev/blog/en/ja/posts/aic_%E8%B5%A4%E6%B1%A0%E6%83%85%E5%A0%B1%E9%87%8F%E5%9F%BA%E6%BA%96/ 真の分布 $g$と得られた分布 $f$のKLダイバージェンスを最小化したい → ( $f$と $g$の交差エントロピー) - ( $g$のエントロピー) を最小化したい で, 真の分布 $g$が得られないので, 色々と強い仮定を連ねると, 例のあの式が導出されるみたい 割とAICの導出は難しい https://gyazo.com/fdf004f02bebf52589f0be3e740535f7 YuWd (Yuiga Wada) 統計 機械学習 情報エントロピー post