JavaScriptを有効にしてください

RuntimeError: reciprocal_cuda not implemented for ComplexHalf

 ·  ☕ 1 min read
1
C = C * (1. - dtA/2).reciprocal() * dt.unsqueeze(-1) # or * dtA / A
  • ComplexHalf = torch.complex32のこと

    • ComplexHalfにはreciprocal_cudaが実装されていないらしい
    • 逆数を求める際の精度の問題?
  • AMPやfp16で計算しようとすると,本来64bitのcomplexで計算されるはずの項が32bitになって,逆数が計算できなくなる

共有

YuWd (Yuiga Wada)
著者
YuWd (Yuiga Wada)
機械学習・競プロ・iOS・Web