スパース性に基づく機械学習

MLPシリーズを買い込んでいるが積ん読になってきている。モチベーション維持のため少し紹介をまとめてみる。
『スパース性に基づく機械学習  MLP機械学習プロフェッショナルシリーズ』
冨岡亮太著　講談社　定価2800円（税別）
ISBN-13: 978-4061529106
http://www.kspub.co.jp/book/detail/1529106.html

スパース性に基づく機械学習 (機械学習プロフェッショナルシリーズ)

◯スパース性(sparsity)とは、「まばらであること」。ある次元を持つベクトルが少数の要素を取り除いて全ての要素が０だあることを意味します。
（特徴選択に置いて少数の属性の場合にも適用可能か？）
◯この書籍であつかうのは、３つのノルム。
(1)l１ノルムに基づく正則化：ベクトルの非０要素の数で定量化されるスパース性、
次に
(2)グループl1ノルムに基づく正則化：説明変数が既知のグループ構造を持つ際、それを尊重したスパース性を誘導する
(3)トレースノルムに基づく正則化：行列の低ランク性を誘導する。ベクトルの要素ごとのスパース性やグループ単位のスパース性はあくまでもあらかじめ定められた説明変数やそのグループを取捨選択するためのものでしたが、トレースノルムに基づく低ランク行列の推定は説明変数そのものをデータをもとに学習することを可能にします。
アトミックノルム：これらのノルムを含みより一般的なスパース性を捉えることのできる枠組み。