2021-01-01から1年間の記事一覧
E資格向けの自習アウトプット 自分用メモ誤差逆伝播までの流れを一旦 python実装 してみる １．データ定義 ２．順伝播（アフィン変換、ReLU） ３．コスト関数（誤差の計算） ４．誤差逆伝播とりあえず絵にしてみる 求めたいのはパラメータの勾配 入力データ…
E資格向けの自習アウトプット 自分用メモモデル（ニューラルネットワーク）の最適化は、コスト関数をより小さくなるようにパラメータ（重み:w、バイアス:b）を更新することが必要 パラメータに対するコスト関数の勾配（微分）が分かれば、パラメータをどの方…
E資格向けの自習アウトプット 自分用メモコスト関数（誤差関数）は、予測した結果と正解との差を定量化した関数 関数が小さいほど、モデルの予測が訓練データに近いと言える 目的、対象に応じてコスト関数をそれぞれ定義する コスト関数は負の対数尤度関数で…
E資格向けの自習アウトプット 自分用メモ出力ユニット は出力層の直前で使う、目的（求めたい解・問題）で使うものが変わってくるガウス出力分布（回帰問題） ➔ 線形ユニット ベルヌーイ出力分布（２クラス） ➔ シグモイドユニット マルチヌーイ出力分布（多…
E資格向けの自習アウトプット 自分用メモ活性化関数は原則パラメータを持たず学習には関与しない。アフィン変換後に活性化関数による非線形写像により表現力の高いニューラルネットワークを構成する。 代表的な活性化関数 ・ステップ関数：超シンプル出番ほ…
E資格向けの自習アウトプット 自分用メモニューラルネットワーク：脳を模倣して演算と学習 万能近似定理：どんな曲線もニューラルネットワークをベースとした関数で近似できる パーセプトロン：ニューラルネットワークの基本単位 順伝播：多層のパーセプトロ…
