第1章 はじめに
1.1 情報とは何だろう?
1.2 学習とは何だろう?
1.3 確率変数としての情報の記述
1.4 確率モデルのいろいろ
1.5 補遺
第2章 情報理論の基礎事項
2.1 情報源
2.2 通信路
2.3 符号化
2.4 情報量
2.5 補遺
第3章 情報幾何の考え方
3.1 確率分布の空間
3.2 KL-情報量
3.3 “まっすぐな”線と“平らな”面
3.4 直交葉層化と射影
3.5 補遺
第4章 符号化と種々の情報量
4.1 情報源符号化
4.2 通信路符号化
4.3 連続情報の離散化
4.4 補遺
第5章 モデル選択
5.1 モデル選択の考え方
5.2 推定量のばらつき
5.3 AICの考え方
5.4 MDLの考え方
5.5 AICとMDLに関する補足
5.6 リサンプリング
5.7 補遺
第6章 混合モデルとアルゴリズムの幾何学的理解
6.1 混合によるモデルの拡大
6.2 EMアルゴリズム
6.3 ブースティング
6.4 バギング
6.5 補遺
付録A 確率論の基礎
関連図書
索引
1.1 情報とは何だろう?
1.2 学習とは何だろう?
1.3 確率変数としての情報の記述
1.4 確率モデルのいろいろ
1.5 補遺
第2章 情報理論の基礎事項
2.1 情報源
2.2 通信路
2.3 符号化
2.4 情報量
2.5 補遺
第3章 情報幾何の考え方
3.1 確率分布の空間
3.2 KL-情報量
3.3 “まっすぐな”線と“平らな”面
3.4 直交葉層化と射影
3.5 補遺
第4章 符号化と種々の情報量
4.1 情報源符号化
4.2 通信路符号化
4.3 連続情報の離散化
4.4 補遺
第5章 モデル選択
5.1 モデル選択の考え方
5.2 推定量のばらつき
5.3 AICの考え方
5.4 MDLの考え方
5.5 AICとMDLに関する補足
5.6 リサンプリング
5.7 補遺
第6章 混合モデルとアルゴリズムの幾何学的理解
6.1 混合によるモデルの拡大
6.2 EMアルゴリズム
6.3 ブースティング
6.4 バギング
6.5 補遺
付録A 確率論の基礎
関連図書
索引