パターン認識
担当教員
授業の到達目標及びテーマ
コンピュータによるパターン認識の基礎となる、統計的パターン認識の考え方とその適用法を学ぶ。
授業の概要と方法
まず、パターン認識とは何かと論じた後で、ベイズの定理と最小誤り確率に基づく統計的パターン認識の考え方を導入する。次いで、生成モデルに基づくアプローチと識別モデルに基づくアプローチを対比する。生成モデルアプローチでは、中心的課題である確率密度関数の推定法を紹介する。識別モデルアプローチでは、まず線形識別関数から説明し、続いて、より柔軟性のある多層パーセプトロンを紹介する。最後に、パターン認識における学習と汎化の問題を取り上げる。授業では、具体的例題で理論的内容を補強し、宿題を課して理解を確認する。
授業計画
| 回 | テーマ | 内容 |
|---|---|---|
| 1 | 数学的基礎 | 確率・統計および線形代数の復習 |
| 2 | パターン認識とは何か | 一例としての文字認識、分類と回帰、前処理と特徴抽出、次元の呪い |
| 3 | 統計的パターン認識の考え方 | 事後確率と統計的パターン認識、ベイズの定理、ベイズ決定理論 |
| 4 | 誤り確率最小化と最適な決定境界の決定 | ベイズの定理の一般化、事後確率最大化による誤り確率最小化、リスク最小化、生成モデルと識別モデル |
| 5 | 確率密度関数の推定1 | 生成モデルに基づく確率密度関数の推定法の概要、パラメトリックな方法、ガウスモデル |
| 6 | 確率密度関数の推定2 | パラメトリックな方法としての、最尤法とベイズ推定法 |
| 7 | 確率密度関数の推定3 | ノンパラメトリックな方法としての、ヒストグラム法、カーネル法、K-最近傍法 |
| 8 | 確率密度関数の推定4 | 混合ガウスモデル、最尤法による解とEMアルゴリズムによる解 |
| 9 | 線形識別関数と単層線形ネットワーク | 識別モデルに基づく識別関数法の概要、線形識別関数を用いた2クラスおよび多クラスの分類 |
| 10 | Fisherの線形識別関数と単層線形ネットワークの学習 | 次元圧縮としての識別関数、クラス分離性、代数演算による単層線形ネットワークの高速学習 |
| 11 | 多層パーセプトロン1 | 単層の非線形ネットワークとしてのパーセプトロン、パーセプトロンの学習法、多層ネットワークへの拡張 |
| 12 | 多層パーセプトロン2 | 多層パーセプトロンの写像能力、sigmoidalユニットを用いた2層パーセプトロンの普遍性 |
| 13 | 多層パーセプトロン3 | 二乗和エラー関数、多層パーセプトロンの学習法、誤差逆伝播法 |
| 14 | パターン認識における学習と汎化 | 次元圧縮、主成分分析と固有次元、モデルの複雑さと汎化能力 |
| 15 | まとめ | 学習到達度の総合的な確認 - 期末試験 |
授業外に行うべき学習活動
[1] 確率と統計の基礎(平均、分散共分散、確率密度関数)の復習 [2] 線形代数の基礎(ベクトル、行列)の復習 [3] 指数関数や対数関数の微積分の復習 [4] 計算問題などの課題レポートへの取り組み
テキスト
担当教員が作成した講義資料を学内Webサイトに公開。
参考書
[1] 石井健一郎・上田修功・前田英作・村瀬洋著: 「わかりやすいパターン認識」、オーム社、1998年。 [2] C. M. Bishop, "Neural Networks for Pattern Recognition", Oxford University Press, 1995.
成績評価基準
課題レポート40点、期末試験40点、授業への参加貢献度20点で総合評価する。
情報機器使用
電子メールや学内Webサイトへのアクセス等ネットワークを利用。
前年度の授業改善アンケートからの気づき
[1] 数式が難解であるため、考え方の基本からより丁寧に説明を行う。 [2] 講義が一方通行にならないように、質問時間を十分に取る。