数理特論II,
2017年9月25日(月)-29日(金) 基礎工J棟617 (待兼山)、25日は3限目から
機械学習手法の基礎と応用
授業の目的と概要:
機械学習の基礎についての講義を行う．機械学習では，学習モデルの構築，学習するための最適化アルゴリズムの構成，性能の理論評価といった三つの要素を踏まえた上で，実際の問題へと応用される．そのため，機械学習を学習するには，確率統計・関数解析・最適化理論・微分幾何学など多くの分野の知識が必要となる．本講義では，最も基本的な線形モデルから始め，スパース推定やカーネル法といった機械学習の手法を線形モデルの延長線上にあるものととらえて解説することで，機械学習手法を駆使できるような多分野の知識を身につけることを目的とする．
学習目標:
機械学習の基本的な方法論を理解する．線形モデルおよびその拡張とみなせるスパース推定やカーネル法について，どのような学習モデルを，どのようなアルゴリズムで最適化するかを学び，学習したモデルが有する性能を評価できるようになる．具体的には，ベイズ推定や情報量基準などの統計確率理論，再生核ヒルベルト空間などの関数解析理論，情報幾何などの微分幾何理論を軸として，機械学習手法を理解し，実際場面に応用できるようになる．
第１回 線形回帰モデル
第２回 汎化誤差と交差検証
第３回 ベイズ推定と正則化
第４回 情報量規準
第５回 圧縮センシングとスパース推定
第６回 いろいろなスパース正則化
第７回 カーネル関数と再生核ヒルベルト空間
第８回 サポートベクターマシン
第９回 VC次元と汎化誤差
第１０回 次元縮約とクラスタリング
第１１回 幾何学的最適化法
第１２回 情報幾何学の基礎
第１３回 マルコフ連鎖モンテカルロ法の幾何
第１４回 行列分解の幾何
第１５回 そのほかの機械学習手法や応用