統計学2
担当教員
授業の到達目標及びテーマ
統計的推測ないし統計的決定の考え方の基礎として、線形モデルと最小二乗法、最尤推定法、ベイズ推定法を学ぶ。
授業の概要と方法
まず、確率・統計の基礎として、様々な確率分布、多次元の確率分布、大数の法則と中心極限定理を復習する。次いで、統計的推測ないし統計的決定の手法として線形モデルと最小二乗法、最尤推定法、ベイズ推定法を順に紹介する。その際、応用例としてパターン認識を取り上げ、具体的な適用法を学ぶ。確率・統計では数式が多く現れるが、数式の理解とともに各手法の振る舞いを数値的に理解することが重要である。このため、Octaveと呼ばれるフリーの数値計算ソフトを使ってプログラミングも行い、計算処理結果を視覚的に表示して理解を深める。
授業計画
| 回 | テーマ | 内容 |
|---|---|---|
| 1 | ガイダンス | 授業の目標、レベル、進め方およびOctaveのインストールと使い方の説明 |
| 2 | 確率分布 | 離散型および連続型のおもな確率分布の復習 |
| 3 | 多次元の確率分布 | 同時確率分布、条件付確率分布、無相関、独立の考え方 |
| 4 | 大数の法則と中心極限定理 | 理論の理解とコンピュータシミュレーション、中心極限定理の応用 |
| 5 | 線形モデルと最小二乗法1 | 直線、多項式、関数のあてはめによるデータの表現 |
| 6 | 線形モデルと最小二乗法2 | 関数の最小二乗近似、直交関数系による関数の表現 |
| 7 | 線形モデルと最小二乗法3 | Octaveを用いた演習 |
| 8 | 最尤推定法1 | 最尤推定法の定義、ガウスモデル、事後確率の計算 |
| 9 | 最尤推定法2 | 線形判別分析、手書き数字データのダウンロード |
| 10 | 最尤推定法3 | 線形判別分析による手書き数字の認識 |
| 11 | ベイズ推定法1 | ベイズ推定法の定義、最尤推定法との違い、最大事後確率推定法 |
| 12 | ベイズ推定法2 | Octaveを用いた演習 |
| 13 | 確率密度関数の推定1 | ノンパラメトリック法の枠組み、ガウスカーネル関数、カーネル密度推定法 |
| 14 | 確率密度関数の推定2 | 尤度交差確認法とカーネル密度推定法による手書き数字の認識 |
| 15 | まとめ | 学習到達度の総合的な確認 - 期末試験 |
授業外に行うべき学習活動
[1] 確率と統計の基礎(平均、分散共分散、確率密度関数)の復習 [2] 線形代数の基礎(ベクトル、行列)の復習 [3] オンラインマニュアルを用いたOctaveプログラミングの習得 [4] 計算問題やOctaveプログラミングなどの課題レポートへの取り組み
テキスト
担当教員が作成した講義資料を学内Webサイトに公開。
参考書
[1] 東京大学教養学部統計学教室編: 「統計学入門」、東京大学出版会、1991年。 [2] 杉山将著: 「統計的機械学習 - 生成モデルに基づくパターン認識」、オーム社、2009年。
成績評価基準
課題レポート40点、期末試験40点、授業への参加貢献度20点で総合評価する。
情報機器使用
電子メールや学内Webサイトへのアクセス等ネットワークを利用。
前年度の授業改善アンケートからの気づき
[1] Octaveを使ったプログラミングの導入をより丁寧に行う [2] 講義が一方通行にならぬように質問時間を十分に取る