勉強

Buhlmann and van de Geer (2011) Section 6.2 Least squares and the Lasso 2/2

6.2.2 続き Let , , . 明らかに . Lemma 6.3: On with , . Proof. Lemma 6.1 と から, \begin{align*}2||\mathbf{X}(\hat \beta - \beta^0) ||_2^2/n + 2\lambda || \hat \beta ||_1 \le \lambda ||\hat \beta - \beta^0|| + 2 \lambda || \beta^0 ||_1\end…

Buhlmann and van de Geer (2011) Section 6.2 Least squares and the Lasso 1/2

6.2.1 Introduction , . In matrix notation, . は固定, は i.i.d. とする. For the moment, とおく. Least squares estimator: このとき, とくに, もわかる (as ). つまり, と正規化しておけば,各 を (全体としては ) の精度で推定可能. 以降では…

Stein’s method: Ch.2 Ross and Pekoz (2007) 2/2

Stein's Method for the Geometric Distributioin を を満たす確率変数, を を満たす確率変数とする*1. を任意の自然数の集合として,, , を以下の関係式から定義する: , where . この式の解は で得られる.実際, \begin{align} &f_A(k) - q f_A(k + 1) \\…

Stein’s method: Ch.2 Ross and Pekoz (2007) 1/2

Coupling 定義:確率変数のペア が かつ を満たすとき,それらを の coupling という. 例: とするとき は の coupling. for all であるとき と書く. Proposition 2.3 であるとき, (a.s.) を満たす の coupling が構成できる. 証明: と の分布関数をそ…