Batch normalizationの逆伝播の算出式を計算グラフを辿って求める
Batch Normalizationの計算式 ニューラルネットワークの学習において、各層での出力値の分布（アクティベーション分布）が適当な広がりを持つように調 ...
誤差逆伝播法を行列演算でExcelに実装してXavierの初期値の有効性を実験してみた
Excelによるニューラルネットワークを行列演算で効率化する 行列演算は大量のデータの線形和を一遍に計算するのに便利です。 過去の記事で９画素の〇✕画像を見分け ...
【勾配消失しない重みの初期値】Excelでモンテカルロシミュレーションしてみた
勾配消失や勾配爆発を避けるには重み初期値の設定が重要 ニューラルネットワークでは、前の層からの信号に重みを掛けた線形和に活性化関数を掛けて次の層への出力とします ...
ソフトプラス関数とソフトサイン関数を計算グラフで微分してみる。
「ゼロから作るDeep Learning」に出てくる計算グラフの理解を補強する ニューラルネットワークの学習とは、損失関数が小さくなるように重みパラメータを更新 ...
【学習率を調整する】AdaGradとRMSPropをExcelに実装して比較してみた。
深層学習における最適化アルゴリズムの定番である勾配降下法についてExcelに実装してきましたが、AdaGradが抜けていました。 >> 【例題をEx ...
ブラックジャックの必勝法をExcelモンテカルロ法で強化学習したらこうなった。
ディーラーの公開カードも考慮したブラックジャックの必勝法を強化学習で求める 前回の記事では手持ちカードの合計が？？までヒットするという単純戦略を採る場合、？？は ...
Excelを使った強化学習でブラックジャックの単純戦略をシミュレーション！
ブラックジャックはカジノの中でも従属事象のゲームと呼ばれていて、うまくやるための必勝法らしきものが存在します。 本記事では独立事象のゲームとして簡略化しています ...
【強化学習】モンテカルロ法をExcelに実装して迷路問題を解いてみた。
モンテカルロ法とQ学習との違い 強化学習は、最終目的を達成するために、今とるべき最適な行動を学習する機械学習の一手法です。 テトリスで一列ずつ崩すのではなく、溜 ...
【強化学習】Q学習のアルゴリズムをExcelに実装して迷路問題を解いてみた。
Q学習はAlphaGoで有名な強化学習の基本 強化学習は機械学習の一分野で、管理人がサプライチェーンマネジメントに最も有用と考えている手法です。 なぜなら、それ ...
ガウスカーネルを使って無限次元のサポートベクターマシンをExcelで試してみた。
三次元のカーネルトリックでは解けないサポートベクターマシン分類問題もある まずは前回のおさらいです。 下のようなデータがある時に、配送可能エリアと配送不可エリア ...