第I部 多様体とダイバージェンス関数
第1章 多様体とダイバージェンス関数
1.1 工学に現れる空間:多様体
1.2 多様体上のダイバージェンス関数
第2章 凸関数の導くダイバージェンスと双対平坦構造
2.1 凸関数とダイバージェンス
2.2 Legendre変換と双対性
2.3 ダイバージェンスとリーマン幾何:接空間
2.4 凸関数と双対平坦多様体
2.5 拡張ピタゴラスの定理
2.6 拡張射影定理
第3章 指数型分布族の双対平坦構造
3.1 指数型分布族
3.2 指数型分布族の凸関数と双対平坦構造
3.3 e-平坦とm-平坦
3.4 指数型分布族,凸関数,Bregmanダイバージェンス
3.5 指数型分布族の拡大
3.6 射影定理とピタゴラスの定理の応用
第4章 確率分布族における不変なダイバージェンス
4.1 不変性
4.2 粗視化と単調性
4.3 標準f関数とFisher情報行列
4.4 いろいろなfダイバージェンス
4.5 正測度空間におけるfダイバージェンス
4.6 平坦で不変なダイバージェンス:KLダイバージェンスとαダイバージェンス
4.7 正測度空間で双対平坦性を与えるfダイバージェンス
4.8 KLダイバージェンスの性質
第5章 確率分布族,正則度族,正定値行列空間に導入する非不変な双対平坦構造
5.1 正測度空間における(u,v)ダイバージェンス
5.2 正定値行列空間の不変なダイバージェンス
5.3 q自由エネルギーが導く確率分布族空間の双対平坦構造
第II部 微分幾何学入門
第6章 アファイン接続,共変微分,測地線
6.1 接空間と計量
6.2 座標変換とテンソル
6.3 アファイン接続
6.4 共変微分
6.5 ベクトルの平行移動
6.6 測地線
6.7 リーマン接続
第7章 曲率と捩率
7.1 リーマン曲率とベクトルの世界一周
7.2 捩率と世界一周
7.3 部分空間の埋め込み曲率
第8章 双対接続の幾何
8.1 双対接続の導入
8.2 双対平坦なリーマン空間
8.3 α接続とα幾何学
8.4 双対平坦空間のポテンシャル関数と規範ダイバージェンス
8.5 ダイバージェンスと双対幾何
第9章 階層構造を持つ双対平坦空間
9.1 階層双対平坦空間
9.2 混合座標系と直交葉層化
9.3 神経スパイクの情報幾何
9.4 高次相関は情報を担うか
9.5 産業連関表の情報幾何
第III部 統計的推論の情報幾何
第10章 統計的推論と情報幾何:曲指数型分布族を用いて
10.1 統計推論の幾何学的な枠組み―例題を用いた直観的説明
10.2 Fisher情報量とCramer-Raoの定理
10.3 指数型分布族における統計的推論
10.4 曲指数型分布族における推論
10.5 統計的推定の漸近理論
10.6 指数型分布族における検定と分類
10.7 検定の漸近理論
第11章 Neyman-Scott問題:局外母数とセミパラメトリック統計モデル
11.1 局外母数を含む統計モデル
11.2 Neyman-Scott問題
11.3 セミパラメトリック統計モデルと推定関数
11.4 推定関数の情報幾何
11.5 Neyman-Scott問題の解
11.6 線形関係の推定:その解
11.7 秤の問題の解
11.8 神経スパイクの解
第12章 隠れ変数のあるモデル:emとEMアルゴリズム,非忠実なモデル,Bayes統計
12.1 隠れ変数のある統計モデル
12.2 emアルゴリズム
12.3 EMアルゴリズム
12.4 非忠実なモデルによる推論
12.5 変分Bayes法
12.6 Bayes統計の情報幾何―deep learningに向けて
第IV部 情報幾何の様々な応用
第13章 機械学習の情報幾何
13.1 画像の分類,検索,認識:クラスタリングの情報幾何
13.2 サポートベクトル機械
13.3 確率推論,グラフィカルモデル,信念伝播
13.4 Boostingの情報幾何
第14章 学習の力学と特異点:多層パーセプトロンと自然勾配学習法
14.1 学習機械:多層パーセプトロン―その栄枯盛衰
14.2 多層パーセプトロンの空間の特異構造
14.3 確率降下法と自然勾配学習法
14.4 多層パーセプトロンの学習力学
14.5 Bayes推論と特異点:代数幾何による解析
第15章 信号処理と最適化の情報幾何
15.1 主成分分析
15.2 独立成分分析
15.3 非負行列分解
15.4 スパース解と圧縮測定(compressed sensing)
15.5 凸計画法の情報幾何
あとがき
索引
第1章 多様体とダイバージェンス関数
1.1 工学に現れる空間:多様体
1.2 多様体上のダイバージェンス関数
第2章 凸関数の導くダイバージェンスと双対平坦構造
2.1 凸関数とダイバージェンス
2.2 Legendre変換と双対性
2.3 ダイバージェンスとリーマン幾何:接空間
2.4 凸関数と双対平坦多様体
2.5 拡張ピタゴラスの定理
2.6 拡張射影定理
第3章 指数型分布族の双対平坦構造
3.1 指数型分布族
3.2 指数型分布族の凸関数と双対平坦構造
3.3 e-平坦とm-平坦
3.4 指数型分布族,凸関数,Bregmanダイバージェンス
3.5 指数型分布族の拡大
3.6 射影定理とピタゴラスの定理の応用
第4章 確率分布族における不変なダイバージェンス
4.1 不変性
4.2 粗視化と単調性
4.3 標準f関数とFisher情報行列
4.4 いろいろなfダイバージェンス
4.5 正測度空間におけるfダイバージェンス
4.6 平坦で不変なダイバージェンス:KLダイバージェンスとαダイバージェンス
4.7 正測度空間で双対平坦性を与えるfダイバージェンス
4.8 KLダイバージェンスの性質
第5章 確率分布族,正則度族,正定値行列空間に導入する非不変な双対平坦構造
5.1 正測度空間における(u,v)ダイバージェンス
5.2 正定値行列空間の不変なダイバージェンス
5.3 q自由エネルギーが導く確率分布族空間の双対平坦構造
第II部 微分幾何学入門
第6章 アファイン接続,共変微分,測地線
6.1 接空間と計量
6.2 座標変換とテンソル
6.3 アファイン接続
6.4 共変微分
6.5 ベクトルの平行移動
6.6 測地線
6.7 リーマン接続
第7章 曲率と捩率
7.1 リーマン曲率とベクトルの世界一周
7.2 捩率と世界一周
7.3 部分空間の埋め込み曲率
第8章 双対接続の幾何
8.1 双対接続の導入
8.2 双対平坦なリーマン空間
8.3 α接続とα幾何学
8.4 双対平坦空間のポテンシャル関数と規範ダイバージェンス
8.5 ダイバージェンスと双対幾何
第9章 階層構造を持つ双対平坦空間
9.1 階層双対平坦空間
9.2 混合座標系と直交葉層化
9.3 神経スパイクの情報幾何
9.4 高次相関は情報を担うか
9.5 産業連関表の情報幾何
第III部 統計的推論の情報幾何
第10章 統計的推論と情報幾何:曲指数型分布族を用いて
10.1 統計推論の幾何学的な枠組み―例題を用いた直観的説明
10.2 Fisher情報量とCramer-Raoの定理
10.3 指数型分布族における統計的推論
10.4 曲指数型分布族における推論
10.5 統計的推定の漸近理論
10.6 指数型分布族における検定と分類
10.7 検定の漸近理論
第11章 Neyman-Scott問題:局外母数とセミパラメトリック統計モデル
11.1 局外母数を含む統計モデル
11.2 Neyman-Scott問題
11.3 セミパラメトリック統計モデルと推定関数
11.4 推定関数の情報幾何
11.5 Neyman-Scott問題の解
11.6 線形関係の推定:その解
11.7 秤の問題の解
11.8 神経スパイクの解
第12章 隠れ変数のあるモデル:emとEMアルゴリズム,非忠実なモデル,Bayes統計
12.1 隠れ変数のある統計モデル
12.2 emアルゴリズム
12.3 EMアルゴリズム
12.4 非忠実なモデルによる推論
12.5 変分Bayes法
12.6 Bayes統計の情報幾何―deep learningに向けて
第IV部 情報幾何の様々な応用
第13章 機械学習の情報幾何
13.1 画像の分類,検索,認識:クラスタリングの情報幾何
13.2 サポートベクトル機械
13.3 確率推論,グラフィカルモデル,信念伝播
13.4 Boostingの情報幾何
第14章 学習の力学と特異点:多層パーセプトロンと自然勾配学習法
14.1 学習機械:多層パーセプトロン―その栄枯盛衰
14.2 多層パーセプトロンの空間の特異構造
14.3 確率降下法と自然勾配学習法
14.4 多層パーセプトロンの学習力学
14.5 Bayes推論と特異点:代数幾何による解析
第15章 信号処理と最適化の情報幾何
15.1 主成分分析
15.2 独立成分分析
15.3 非負行列分解
15.4 スパース解と圧縮測定(compressed sensing)
15.5 凸計画法の情報幾何
あとがき
索引