NeuralNetworkConsoleでマルチGPU

313 views
Skip to first unread message

Lickey

unread,
Jul 3, 2018, 12:03:07 AM7/3/18
to Neural Network Console Users (JP)
いつもNeuralNetworkConsoleを研究、趣味ともに愛用させていただいております。


さて、現在NeuralNetworkConsoleを2つのGPUを持ったwindows10 PC上で動作させているのですが、
タスクマネージャーを見た限りですと、1つのGPUのみ動作している状態になっています。
そのため、マシンパワーが十分に発揮されず、NNablaで2つのGPUの学習を進めています。

しかし、やはりNNablaとNeuralNetworkConsoleの連携や、
NeuralNetworkConsoleの構造の自動探索機能を考えると、
NeuralNetworkConsoleで複数のGPU処理をさせたく思います。

そこで質問なのですが、
・NeuralNetworkConsoleを複数のGPUに処理させて、学習を高速化することは可能でしょうか?
・また、その機能がない場合、今後追加される予定はあるでしょうか?

1つ目の質問は、動作させるGPUをSetupで選択している時点で明らかだとは思いますが、
確認のためにも質問いたしました。

未熟な質問ではありますが、回答のほどよろしくお願いします。

c90

unread,
Jul 3, 2018, 2:45:40 AM7/3/18
to Neural Network Console Users (JP)
横からですが、おっしゃる通りマルチGPUに対応してもらえると嬉しいですね。

私は、consoleを2セット展開して、それぞれ、別GPUを割り当てて、一度に2ケース動かしています。
チューニングなどで使う場合はいろいろ試すので、トータルでは同じ効率のハズ。(早いに越したことはないけど)
※キャッシュは使いまわせるので、便利です。逆に同時に同じキャッシュを作らないようにしないといけません。


2018年7月3日火曜日 13時03分07秒 UTC+9 Lickey:

小林由幸

unread,
Jul 5, 2018, 10:37:21 PM7/5/18
to Neural Network Console Users (JP)
Neural Network Consoleをお使いいただきありがとうございます。
残念ながら現時点でNeural Network Console Windows版はマルチGPU学習には対応しておりません。

複数のGPUを活用するには、c90さんの書かれているようにNeural Network Consoleを複数展開し、
Setupウインドウでそれぞれ異なるGPUを指定し、並列で用いる、といった使い方になります。

マルチGPU学習についてはご要望として承りたいと思います。

Lickey

unread,
Jul 10, 2018, 1:08:33 AM7/10/18
to Neural Network Console Users (JP)
小林さん
c90さん

返信していただきありがとうございます。

マルチGPUはあれば非常に力強いです。
ご要望として受け取っていただきありがとうございます。

並列での処理を試してみたところ、非常に効率的にネットワークの探索を行うことができました。
お教えいただきありがとうございます。



2018年7月6日金曜日 11時37分21秒 UTC+9 小林由幸:
Reply all
Reply to author
Forward
0 new messages