回帰問題におけるnanについて
siiii
(array[[4.69 .....],[1.88 .....],...[3.23 ......]], dtype=float32))(array[[nan],[nan],...[nan]], dtype=float32)).....(array[[nan],[nan],...[nan]], dtype=float32))epoch:1 loss = nan time:1.129 ....(array[[4.69 .....],[1.88 .....],...[3.23 ......]], dtype=float32))(array[[nan],[nan],...[nan]], dtype=float32)).....(array[[nan],[nan],...[nan]], dtype=float32))epoch:2 loss = nan time:1.129 ....
class GoogLeNet(chainer.Chain):
cuda.get_device(0).use()
insize = 256
def __init__(self):
super(GoogLeNet, self).__init__(
conv1=L.Convolution2D(None, 64, 7, stride=2, pad=3),
conv2_reduce=L.Convolution2D(None, 64, 1),
conv2=L.Convolution2D(None, 192, 3, stride=1, pad=1),
inc3a=L.Inception(None, 64, 96, 128, 16, 32, 32),
inc3b=L.Inception(None, 128, 128, 192, 32, 96, 64),
inc4a=L.Inception(None, 192, 96, 208, 16, 48, 64),
inc4b=L.Inception(None, 160, 112, 224, 24, 64, 64),
inc4c=L.Inception(None, 128, 128, 256, 24, 64, 64),
inc4d=L.Inception(None, 112, 144, 288, 32, 64, 64),
inc4e=L.Inception(None, 256, 160, 320, 32, 128, 128),
inc5a=L.Inception(None, 256, 160, 320, 32, 128, 128),
inc5b=L.Inception(None, 384, 192, 384, 48, 128, 128),
loss3_fc=L.Linear(None, 1),
loss1_conv=L.Convolution2D(None, 128, 1),
loss1_fc1=L.Linear(None, 1024),
loss1_fc2=L.Linear(None, 1),
loss2_conv=L.Convolution2D(None, 128, 1),
loss2_fc1=L.Linear(None, 1024),
loss2_fc2=L.Linear(None, 1),
)
self.train = True
def __call__(self, x_data, t_data):
x = Variable(x_data)
t = Variable(t_data)
h = F.relu(self.conv1(x))
h = F.local_response_normalization(
F.max_pooling_2d(h, 3, stride=2), n=5)
h = F.relu(self.conv2_reduce(h))
h = F.relu(self.conv2(h))
h = F.max_pooling_2d(
F.local_response_normalization(h, n=5), 3, stride=2)
h = self.inc3a(h)
h = self.inc3b(h)
h = F.max_pooling_2d(h, 3, stride=2)
h = self.inc4a(h)
h = F.average_pooling_2d(h, 7, stride=1)
h = self.loss3_fc(F.dropout(h, 0.4, train=self.train))
loss = F.mean_squared_error(h.data, t.data)
print(h.data, t.data) ←ここでhの値を確認しています。
chainer.report({
'loss': loss,
}, self)
return loss
# 学習モデル設定
model = GoogLeNet()
optimizer = optimizers.Adam()
optimizer.setup(model)
cnt = 0
cuda.init(0)
model.to_gpu()
# 学習データリストファイルから一行ずつ読み込む
train_list = []
for line in open(args.train_list):
pair = line.strip().split()
train_list.append((pair[0], np.float32(pair[1])))
# 画像データとラベルデータを取得する
x_train = [] # 画像データ格納
y_train = [] # ラベルデータ格納
for filepath, label in train_list:
print(filepath)
img = cv2.imread(filepath)
x_train.append(np.transpose(img, (2, 0, 1)))
y_train.append(label)
cnt = cnt + 1
x_train = np.array(x_train,np.float32)
y_train = np.array(y_train,np.float32).reshape(cnt, 1)
N = len(y_train)
batchsize = 16
datasize = len(x_train)
n_epoch = args.epoch # 繰り返し学習回数
# 学習開始
train_start = time.time()
for epoch in range(1, n_epoch+1):
sum_loss = 0
perm = np.random.permutation(N) # データセットの順番をシャッフル
train_start_one = time.time()
for i in range(0,datasize, batchsize):
# 初期化
optimizer.zero_grads()
#model.zero_grads()
x_batch = cuda.to_gpu(x_train[perm[i:i+batchsize]]) # バッチサイズ分のデータを取り出す
y_batch = cuda.to_gpu(y_train[perm[i:i+batchsize]])
# 誤差伝播
loss = model(x_batch, y_batch)
# 誤差逆伝播
loss.backward()
# ネットワークパラメータ更新
optimizer.update()
sum_loss += loss.data
print "epoch:{} loss={} time:{}".format(epoch, sum_loss / (datasize/batchsize), time.time()-train_start_one)
print "train time:{}".format(time.time()-train_start)
# 学習したモデルを出力する
serializers.save_npz("model.model", model)
serializers.save_npz("state.state", optimizer)
siiii
Daiki Sanno
loss = F.mean_squared_error(h, t)
2017年1月12日木曜日 20時51分07秒 UTC+9 siiii:
siiii
//anaconda/lib/python2.7/site-packages/chainer/functions/activation/relu.py:43: RuntimeWarning: invalid value encountered in greater
return utils.force_array(gy[0] * (x[0] > 0)),
のメッセージが表示されました。結果も同様です。
optimizer.update()をコメント化するとlossが更新されない代わりに全てのhの値が正しく読み込まれますが関係はあるのでしょうか...