NNC2.1のGPU使用具合に関して

unread,

Oct 6, 2022, 10:05:49 AM10/6/22

to Neural Network Console Users (JP)

お世話になっております。

以下のLSTMの学習時のGPU使用状況についてなのですが、常に

「average load:{cpu:100.8%, gpu:43.0%}」

程となっており、WindowsのタスクマネージャからGPU使用率をモニタしていても数％すらも使用していない状況です。

AverageLoadにGPUが出てくるので設定は合っていると思うのですが、どうすればGPUをもっと活用して時間の短縮をしてくれるのか、ご存じの方がいらっしゃいましたらご教示いただければと思います。

CPU　Ryzen3800X

メモリ　32GB

GPU　GeforceRTX3070

ドライバver 517.48

NNC ver　2.1

unread,

Oct 7, 2022, 10:01:49 AM10/7/22

to Neural Network Console Users (JP)

CNNなんかと比べて、RNN系（LSTMを含む）はGPU効率が悪いので、

Transformer（Attenttion）系に進化した理由もこの非効率さが要因か

もしれない

モデルを変えるか、CPUを速いモノにしないとGPUを使いきれないってことだと思います。

※モデルを変えると3070くらいだとGPUメモリに載るかという問題が出てきますが・・・

2022年10月6日木曜日 23:05:49 UTC+9 M.sin:

unread,

Oct 7, 2022, 9:51:25 PM10/7/22

to Neural Network Console Users (JP)

>C90様

　返信ありがとうございます、納得いたしました。

　お恥ずかしながら、私が根本的にモノを理解していないということを白状した質問だったことがよくわかりました。

　LSTMの後継モデルのユニットを自前で組まないと始まらないということもわかりました。

　（ハードウェアのこれ以上のアップグレードは懐の問題が…