-
プラトー鞍点などの停留点に到達して学習が停留している状態
-
確率的勾配降下法(SGD)最適化アルゴリズムの一つ。パラメータxを更新する為の勾配を求める際、全データの中からランダムに抜き出したデータを利用する(ミニバッチ学習)。訓練データの中からデータを取り出し、そのデータから計算した勾配を用いてパラメータを逐次更新していく手法。
-
モーメンタム最適化アルゴリズムの一つ。SGDに慣性的な性質を持たせた手法。最小値まで辿りつく経路がSGDと比べて無駄の少ない動きになっているとともに、停滞しやすい領域においても学習がうまくいきやすくなるというメリットがある。
-
AdaGrad最適化アルゴリズムの一つ。SGDの改良手法で、勾配降下法においてパラメータ毎の学習率を、勾配を用いて自動で更新する。
-
ノーフリーランチ定理あらゆる問題に対して性能の良い汎よう最適化戦略を理論情報不可能であるという定理。
-
バッチ正規化各層で伝わってきたデータに対し、正規化を行う手法。
-
畳み込みニューラルネットワーク主に画像処理の分野で高い効果を上げているニューラルネットワーク。
-
ストライド畳み込み処理のおいて、カーネル(フィルター)を移動させる幅のこと。
-
パディング畳み込み処理前に画像に余白となるような部分を追加し、畳み込み処理後の特徴マップのサイズを調整するもの。
-
データ拡張(Data Augumentation)画像に人工的な加工を行うことでデータの種類を増やす事。 Cutout、Random erasing、Mixup、CutMix
-
転移学習学習済みのネットワークを利用して、新しい問題に対するネットワークの作成に利用する際に、付け足した(または置き換えた)層のみを学習する方法。
-
ファインチューニング学習済みのネットワークを利用して、新しい問題に対するネットワークの作成に利用する際に、利用した学習済みモデルに含まれるパラメータも同時に調整する手法。
-
BPTT(通時的誤差逆伝播)RNNの誤差学習で行われている手法で、過去の時系列を遡りながら誤差を計算していく手法。
-
入力重み衝突現在の入力に対し過去の情報の重みは小さくなくてはならないが、将来のために大きな重みを残しておかなければならないという矛盾が、新しいデータの特徴を取り込むときに発生すること。
-
出力重み衝突現在の入力に対し過去の情報の重みは小さくなくてはならないが、将来のために大きな重みを残しておかなければならないという矛盾が、現在の状態を次時刻の隠れ層(中間層)へ出力するときに発生すること。
-
GRUリセットゲートと更新ゲートという2つのゲートを用いた構造のブロックから構成されるモデル。
-
LSTM「CEC(Constant Error Carousel)」という情報を記憶する構造と「データの伝播量を調整する3つのゲートを持つ構造を持つRNNを改良したモデル。
-
双方向RNN(BiRNN)2つのRNNが組み合わさった構造をしており、一方はデータを時系列通りに学習し、もう一方は時系列を逆順に並び替えて学習を行うモデル。
-
seq2seq(sequence-to-sequence)入力となる時系列データから、時系列データを生成するタスク。代表的な構造にはRNN Encoder-Decoderモデルがある。
-
Attention入力データの一部分に注意するような重みづけを行うことで、重要な情報を取り出せるようにした手法。
-
価値ベース報酬の期待値を状態や行動の価値計算に反映する方法。
-
方策ベース現時点の方策で計算した報酬の期待値と方策を見比べてどのように方策を変化させれば、報酬の期待値が大きくなるかを直接計算する手法。
-
Q学習価値ベースの強化学習手法。状態sと行動aの組の価値を、状態s行動aを選んだあと、得られる報酬和の期待値で表現する。
-
モンテカルロ木探索ある状態から行動選択を繰り返して報酬和を計算するということを複数回行った後、報酬和の平均値をある状態の価値とする価値推定方法。
ログイン
オンライン単語帳
このページを利用するにはログインする必要があります。ログインするとAnkilotをより便利にご利用いただけます。