Advanced Pattern Recognition
年度
- 2015 年度版
Instructor
Goal and Theme
統計的パターン認識のより進んだ理論的枠組みを体系的に学び、同時に具体的な適用法を学ぶ。
授業の到達目標
統計的パターン認識の生成モデルと識別モデルの代表的手法を理解して習得する。手書き数字認識を例題に代表的認識手法を複数実装して認識実験を行い、各手法の得手不得手を知る。
Abstract
まず、ベイズの定理と最小誤り確率に基づく統計的パターン認識の原理を理解する。次に、生成モデルに基づく確率密度関数の推定法として混合ガウスモデルとEM解法、改良投影距離法、識別モデルとして多層パーセプトロンとサポートベクターマシンを学ぶ。授業後半では、手書き数字認識を取り上げ、画像取得、前処理、特徴抽出、さらに授業前半で学んだ複数の認識手法の実装に取り組み、公開データを用いた認識実験を行う。
Schedule
| 回 | テーマ | 内容 |
|---|---|---|
| 第1回 | 数学的基礎 | 確率・統計および線形代数の復習 |
| 第2回 | 統計的パターン認識の考え方 | 誤り確率最小化と最適な決定境界の決定 |
| 第3回 | 生成モデルと識別モデル | 確率密度関数の推定 vs. 識別関数の推定 |
| 第4回 | 生成モデルにおける確率密度関数の推定 | 混合ガウスモデル法とそのEM解 |
| 第5回 | 生成モデルとしての改良投影距離法 | 正規分布を仮定した高度な識別関数 |
| 第6回 | 識別モデルとしての多層パーセプトロン | 写像能力と誤差逆伝搬法による学習 |
| 第7回 | 識別モデルとしてのサポートベクターマシン | カーネルトリックと解法 |
| 第8回 | 手書き数字認識系の構築(1) | データ取得と前処理 |
| 第9回 | 手書き数字認識系の構築(2) | 特徴抽出 |
| 第10回 | 手書き数字認識系の構築(3) | 最近傍平均分類法の実装 |
| 第11回 | 手書き数字認識系の構築(4) | 改良投影距離法の実装 |
| 第12回 | 手書き数字認識系の構築(5) | 多層パーセプトロンの実装 |
| 第13回 | 手書き数字認識系の構築(6) | サポートベクターマシンの実装 |
| 第14回 | 手書き数字認識系の構築(7) | 認識実験 |
| 第15回 | まとめ | 最終レポート作成、成果発表 |
授業時間外の学習 (準備学習・復習・宿題等)
[1] 確率・統計、線形代数の復習 [2] 特殊関数の微積分の復習 [3] Java、C言語プログラミングの復習
Materials
担当教員が作成した講義資料を学内Webサイトに公開。
References
[1] 石井健一郎・上田修功・前田英作・村瀬洋著: 「わかりやすいパターン認識」、オーム社、1998年。
[2] C.M. Bishop,“Pattern Recognition and Machine Learning”, Springer, 2006.
[3] K. Fukunaga: “Introduction to Statistical Pattern Recognition,” Second Edition, Academic Press, 1990.
[4] 金谷健一著: 「これなら分かる最適化数学 - 基礎原理から計算手法まで - 」、共立出版、2005年。
Evaluation Method
宿題40%、最終レポート40%、平常点20%で総合評価する。
情報機器使用
電子メールや学内Webサイトへのアクセス等ネットワークを利用。
学生の意見 (授業改善アンケート等) からの気づき
手書き数字認識系の構築が難題であるため、丁寧に指導を行う。