時系列の数値データでのLSTMを用いてのサンプルなどはあるのでしょうか？

[モグ]

お世話になります。

今の方法では何故か今一的確な予測（推論）が出来ませんので、ゼロからの改めてのデータ作りからの再構築を試みたく思います。

例えば過去30日間の数値データを用いての、未知である翌日の予測をしようとした場合です。

その過去30日間の1日当たりの数値データは11項目と複数ですし、

得られる翌日の予測も、具体的な数値でも構いませんし3択などの指標でも構いません。

どうぞよろしくお願いします。

[Irja]

アイデアとして正しいだと思います,

私も同じ方法で為替データを予測してます,（５分後のレート（終値）を予測してます）

鍵はここだ と思います「　1日当たりの数値データは11項目　」

このアルゴリズムによって、必ずしも　LSTM　にネットワークを組む必要はない、

とってもシンプルなネットワークでそしてかなり軽いコストで高い精度を出します。

私のネットワークは大体こんな感じです

後は、大量のデータさえあれば、成功します。

2021年8月11日水曜日 20:01:46 UTC+9 モグ:

[モグ]

Irja様

いつもありがとうございます。

おっしゃるように凄くシンプルなネットワークなのですね。

もちろんこれで高い精度も出れば有難いです。

５分後のレート（終値）とのこと。

x__0・・x__719に時系列の５分毎のレート（終値）を入れ、それを５分ずつずらしたものを数多く作るとの理解で良いのでしょうか？

ただこの場合でも、求める予測（推論）のy__0・・からの部分にはどのようにすれば良いのかは分かっていません。

[モグ]

ありがとうございます。

一時は断念しようかと思ったのですが、もしよろしければお教えもいただければ幸甚です。

さて、x__0に30日前の終値、x__1に29日前の終値・・と順次入れて行き、y__0に本日の終値を入れる、といった具合で良いのですよね？

と、言うことは推論で得られるy'__0は翌日の予測ではなく、本日の終値であるy__0を追認するに過ぎないのではないでしょうか？

もっともこれで翌日の予測が出来れば、何らの問題もないことではありますが。

2021年8月12日木曜日 17:52:39 UTC+9 Irja:

最終的にこんな感じになります、 30日前の 終値　＆　 29日前の 終値　＆　 28日前の 終値　＆　…　＝＞　y__0　＝　本日の 終値　

--------------------------------------------

ただし これだけでは 精度が上がりません、

ちょっと工夫する必要があります、

上記のデータを 学習 する前に

下記のデータを学習する必要があります

30日前の 終値　＝＞　y__0　＝　 29日前の 終値

30日前の 終値　＆　 29日前の 終値　＝＞　 y__0　＝  　28日前の終値

30日前の 終値　＆　 29日前の 終値　＆　 28日前の 終値　＝＞　 y__0　＝  　27日前の終値

　......

--------------------------------------------

このデータ作りが難しいであれば、

30日前の 終値　＆　 29日前の 終値　＆　 28日前の 終値　＆　…　＝＞　y__0　＝　本日の 終値

データを　CNN　ネットワークで学習 する事で近い精度が出ると思います。

■私はデータ作りの方を選びました（自分に理解しやすいです）

2021年8月12日木曜日 12:53:20 UTC+9 モグ:

[Irja]

私の説明不足で混乱させてしまってすみません。（前回の投稿を削除します）

おっしゃる通りです、

30日前の 終値　＆　 29日前の 終値　＆　 28日前の 終値　＆......＆　2日前の 終値　＝＞　y__0　＝　1日前の 終値　　=＞（学習させる）

この書き方の方が正しいです。

-------------------------------

そして推論時に下記の形になります

30日前の 終値　＆　 29日前の 終値　＆　 28日前の 終値　＆......＆　１日前の 終値　＝＞　結果　本日の 終値

-----------------------------

もちろんこの　「〇日前の 終値」は　そのままではなく、

モグさん書いてある通り

「その過去30日間の1日当たりの数値データは11項目」＝＝＝＞1日の終値の情報をこの11項目に入れることです。

-----------------------------

例えば：1日当たりの数値データは3項目とします

こんな感じになります

そして y__0 は　0～1　に設定する（たとえば 終値　325円 であれば  0.325 に設定する）

うまく伝わりましたかな?!

2021年9月6日月曜日 17:47:41 UTC+9 モグ:

[モグ]

ありがとうございます。

お手数をお掛けし申し訳ございません。

仮に、5日間の終値とします。

これですと、開始日のx__0は1日違うことにはなるのですがこれで合ってるのでしょうか？

学習時・・、x__0に5日前の終値、x__1に4日前の終値、x__2に3日前の終値、x__3に2日前の終値、y__0に1日前の終値。

推論時・・、x__0に4日前の終値、x__1に3日前の終値、x__2に2日前の終値、x__3に1日前の終値、＜y'__0　結果 本日の終値＞

　　＜y'__0　結果 本日の終値＞ は推論で出したものであり、実際の終値はこの時点ではまだ未確定な数値でもあります。

> そして y__0 は　0～1　に設定する（たとえば 終値　325円 であれば  0.325 に設定する）

 y__0のみならず、x__0も含め全てに於いても0～1にも設定する必要もあるのですよね？

2021年9月6日月曜日 21:54:39 UTC+9 Irja:

[Irja]

そうです、

学習時x__0に5日前の終値であれば 推論時x__0に4日前の終値から始まります（この書き方が正しです）

----------------------------

＞y__0のみならず、x__0も含め全てに於いても0～1にも設定する必要もあるのですよね？

もちろん その通りです

2021年9月7日火曜日 19:13:13 UTC+9 モグ:

[モグ]

お教えありがとうございます。

では、それでやってみます。

あと、もう取り消しもされたのですが、2021/08/12 17:52:39の下記の部分はどのような意味だったのでしょうか？

上記のデータを学習する前に下記のデータを学習する必要がある、とのことですが、そもそもからしてそのようなことが出来るのでしょうか？

出来たとしても、それを今般のにどう繋げて行けば良いのかが分かりません。

> ただし これだけでは 精度が上がりません、

> ちょっと工夫する必要があります、

> 上記のデータを 学習 する前に

> 下記のデータを学習する必要があります

> 30日前の 終値　＝＞　y__0　＝　 29日前の 終値

> 30日前の 終値　＆　 29日前の 終値　＝＞　 y__0　＝  　28日前の終値

> 30日前の 終値　＆　 29日前の 終値　＆　 28日前の 終値　＝＞　 y__0　＝  　27日前の終値

> 　......

2021年9月7日火曜日 19:58:43 UTC+9 Irja:

[森下匡]

割り込みごめんなさい。

出力値を0〜1に正規化するとの話ですが、例えば出力の値が極端に大きい場合、学習データの特徴量が小さくなり思うような推論結果を得られない場合があります。

予め大きさが分かっている(例えば画像処理など)場合は正規化処理は有効ではありますが、上限が分からない値を予測したい場合は標準化することをオススメ致します。

NNCでは、標準化処理を自動で行ってくれる機能がありますので、そちらを使われたら簡単にできると思います。

詳細はこちらの動画で説明されています。　　　https://youtu.be/ViSIaGlg_DU

2021年9月8日(水) 12:31 モグ <fma...@gmail.com>:

--
このメールは Google グループのグループ「Neural Network Console Users (JP)」に登録しているユーザーに送られています。
このグループから退会し、グループからのメールの配信を停止するには neural_network_consol...@googlegroups.com にメールを送信してください。
このディスカッションをウェブ上で閲覧するには https://groups.google.com/d/msgid/neural_network_console_users_jp/405186bc-ffc0-45d7-8a43-3932bae04522n%40googlegroups.com にアクセスしてください。

--

熊本高等専門学校　人間情報システム工学科　５年

森下　匡　　hi17mo...@g.kumamoto-nct.ac.jp

[モグ]

ありがとうございます。

NNCには、そのような機能もあるのですね。

今は特には必要とはしないですが、その節には是非利用もさせて貰います。

2021年9月8日水曜日 12:47:43 UTC+9 hi17mo...@g.kumamoto-nct.ac.jp:

割り込みごめんなさい。

出力値を0〜1に正規化するとの話ですが、例えば出力の値が極端に大きい場合、学習データの特徴量が小さくなり思うような推論結果を得られない場合があります。

予め大きさが分かっている(例えば画像処理など)場合は正規化処理は有効ではありますが、上限が分からない値を予測したい場合は標準化することをオススメ致します。

NNCでは、標準化処理を自動で行ってくれる機能がありますので、そちらを使われたら簡単にできると思います。

詳細はこちらの動画で説明されています。　　　https://youtu.be/ViSIaGlg_DU

[モグ]

ありがとうございます。

何度もお手数お掛けし申し訳ございません。

要は、上段の大量のデータでと、下段の少ないデータでとは、データの作り方が違うだけ、との理解で良いのですね？

さて、今、例えば9月1日から始まるデータがあるとします。

そこで、この両者の学習用データの作り方ですが、添付画像のようで良いのでしょうか？

また、動画も見ましたが何分素人、正直あまりよくは分からなかったのですが、

https://www.youtube.com/watch?v=8kMO5umjKZw&list=PLuqslw8wjuFgltmQqgDgON8m3oZtTy6RI&index=15

の７分55秒辺りからの「出力の離散化による予測性能の向上」についての現象は確かによく見られることです。

もし可能であれば、基本的なニューラルネットワーク構造もお教えもいただければ幸甚に存じます。

2021年9月8日水曜日 17:17:42 UTC+9 Irja:

上記のようなデータ作りをイメージしてください

↑　この場合は大量のデータを作らなくてならない

------------------------------------------------

少ないデータで　＝＞　4日前の 終値　＆　 3日前の 終値　＆　 2日前の 終値　＝＞　 y__0　＝  　1日前の終値

つまいネットワーク中心でやられるんでしたら、下記の動画が参考になります

https://www.youtube.com/watch?v=22Eq_0qADf4&list=PLuqslw8wjuFinlRGN3zYNx3F3d-yzQYtv&index=31&t=137s

https://www.youtube.com/watch?v=8kMO5umjKZw&list=PLuqslw8wjuFgltmQqgDgON8m3oZtTy6RI&index=15

データを　CNN　ネットワークで学習 する事で近い精度が出ると思います。

[Irja]

>> そこで、この両者の学習用データの作り方ですが、添付画像のようで良いのでしょうか？

はい 、こんな感じのデータフォーマットになります。

>> ７分55秒辺りからの「出力の離散化による予測性能の向上」について

私も説明できるほど完全に理解してませんので、お力にならないと思います。

ご覧の通り私のネットワークはCNNやLSTMではないです。

2021年9月8日水曜日 23:21:47 UTC+9 モグ:

[モグ]

ありがとうございます。

お陰様で、少ないデータで・・、の方だけではありますが一応は動くようにはなりました。

ただ何分5日間だけのデータ、増やすには他のファイル管理の手法も必要なようではありますが、さてさてどうなりますことやら。

また機会がありましたらご教授賜りますようよろしくお願い致します。

2021年9月9日木曜日 22:23:27 UTC+9 Irja: