閃 き

閃き- blog

きらびやかに、美しく、痛烈に.

2019-02-01から1ヶ月間の記事一覧

PAC学習と計算論的学習理論(Computatinonal Learning Theory)の文献まとめ

PAC学習 (Probability Approximately Correct learning) とは、イギリスの理論計算機科学者 Leslie Valiant が1984年に以下の論文で初めて提唱した概念で、計算機科学の分野でそれまで研究されていた一般的な計算アルゴリズムの効率性・複雑性に対して、学習…

最尤推定量とワルド検定・スコア検定・尤度比検定

1. パラメータの尤もらしさに関する統計的仮説検定 1.1 ワルド検定(Wald test) 1.2 スコア検定(Score test) 1.3 尤度比検定(Likelihood ratio test) 2. KL-divergenceとFischer情報量の関係 2.1 スコア関数とFischer情報量の定義 2.2 KL-divergence 3.…

ガウス過程と回帰モデル(線形~線形基底~ガウス過程)

1. ガウス過程(GP, Gaussian Process) 1.1 ガウス分布の共役性 1.2 ガウス分布の切断と周辺化 1.3 ガウス過程の定義 2. さまざまな回帰モデルの比較 2.1 回帰問題とは? 2.2 線形回帰モデル 2.2.1 線形回帰モデルの準備 2.2.2 線形回帰モデルのベイズ的解…