データサイエンティスト上がりのDX参謀・起業家

データサイエンティスト上がりのDX参謀・起業家のブログ。データ分析や事業について。自身はアーティスト、経営者、事業家。

2011-03-10から1日間の記事一覧

LASSOの幾何学的解釈とLARSとの関係

昨日と今日のブログの流れで、LASSOの幾何学的な解釈を考えました。「LASSOは残差にペナルティ項を足したもの(目的関数)」を最小にする方法でした。 この目的関数は、幾何学的には次のように表現できると思います。ベクトル(y-βx)の方向にペナルティの分だ…

相関係数、最小二乗法、LARSの幾何学的解釈

統計の数式、特に基本的な概念はベクトルとして考えてイメージするとスマートに解釈できる事が多いです。 まずは相関係数。いきなりですが、相関係数は以下のように式展開するとcosθになります。簡便のため、ベクトルxとyの平均は0と仮定します。このxとyを…