Lista 10: Wariancja

Zadania na ćwiczenia: 2025-05-12

Lista zadań w formacie PDF

Zadania do samodzielnego rozwiązania

  1. Zmienne losowe \(X, Y\) spełniają warunki: \(\mathbb{V}ar[X] = 3\), \(\mathrm{Cov}(X,Y) = -1\), \(\mathbb{V}ar[Y] = 2\). Oblicz \(\mathbb{V}ar[4X - 3Y]\) oraz \(\mathrm{Cov}(2X - Y, 2X + Y)\).

    \(\mathbb{V}ar[4X - 3Y]=90\) oraz \(\mathrm{Cov}(2X - Y, 2X + Y)=10\).

  2. Niech \(\vec{X}= (X, Y)\) będzie jednostajnie wylosowanym punktem kwadratu jednostkowego \([0, 1]^2\). Znajdź \(\mathbb{V}ar(X)\), \(\mathbb{V}ar(Y)\), \(\mathrm{Cov}(X, Y)\).

    \(\mathrm{Var}(X)= 1/12\), \(\mathrm{Var}(Y)=1/12\), \(\mathrm{Cov}(X, Y)=0\).

  3. Znajdź wariancję dla zmiennej losowej \(X\) o rozkładzie

    1. \(\mathrm{Pois}(\lambda)\), \(\lambda>0\).
    2. \(\mathcal{U}[a,b]\), \(a<b\)
    3. \(\mathrm{Exp}(\lambda)\), \(\lambda>0\).

a \(\lambda\), b \((b-a)^2/12\), c \(1/\lambda^2\)

  1. Wykaż, że jeżeli \(X\) jest zmienną losową całkowalną z kwadratem, to:

    1. \(\mathbb{V}ar[cX] = c^2 \mathbb{V}ar[X]\) dla każdego \(c \in \mathbb{R}\);
    2. \(\mathbb{V}ar[X + a] = \mathbb{V}ar[X]\) dla każdego \(a \in \mathbb{R}\);
    3. \(\mathbb{V}ar[X] = 0\) wtedy i tylko wtedy, gdy zmienna losowa \(X\) jest stała z prawdopodobieństwem 1.

a \[\begin{align*} \mathbb{V}ar(cX) & = \mathbb{E}[(cX)^2] - (\mathbb{E}[cX])^2 \\ & = c^2 \mathbb{E}[X^2] - c^2 (\mathbb{E}[X])^2 \\ & = c^2 (\mathbb{E}[X^2] - (\mathbb{E}[X])^2) \\ &= c^2 \mathbb{V}ar(X) \end{align*}\] b \[\begin{align*} \mathbb{V}ar(X + a) & = \mathbb{E}[(X + a)^2] - (\mathbb{E}[X + a])^2 \\ &= \mathbb{E}[X^2 + 2aX + a^2] - (\mathbb{E}[X] + a)^2\\ &= \mathbb{E}[X^2] + 2a\mathbb{E}[X] + a^2 - (\mathbb{E}[X]^2 + 2a\mathbb{E}[X] + a^2)\\ &= \mathbb{E}[X^2] - (\mathbb{E}[X])^2 = \mathbb{V}ar(X) \end{align*}\] c (\(\Rightarrow\)) Jeśli \(\text{Var}(X) = 0\), to całka z funkcji nieujemnej \((X-\mathbb{E}[X])^2\) jest równa zero. Oznacza to, że owa funkcja jest równa zero p.w. Czyli \(X =\mathbb{E}[X]\) p.w. (\(\Leftarrow\)) Jeśli \(X = c\) z prawdopodobieństwem 1, to: \[ \text{Var}(X) = \mathbb{E}[X^2] - (\mathbb{E}[X])^2 = c^2 - c^2 = 0 \]

  1. Niech \(X\), \(Y\) i \(Z\) będą zmiennymi losowymi całkowalnymi z kwadratem. Pokaż, że

    1. \(\mathrm{Cov}(X, Y) = \mathbb{E}[XY] - \mathbb{E}[X]\mathbb{E}[Y].\)
    2. \(\mathrm{Cov}(X, X) = \mathrm{Var}[X].\)
    3. \(\mathrm{Cov}(X, Y) = \mathrm{Cov}(Y, X).\)
    4. Kowariancja jest operatorem dwuliniowym: \[ \mathrm{Cov}(aX + bY, Z) = a\,\mathrm{Cov}(X, Z) + b\,\mathrm{Cov}(Y, Z). \]

a Z definicji kowariancji: \[\begin{align*} \text{Cov}(X, Y) & = \mathbb{E}[(X - \mathbb{E}[X])(Y - \mathbb{E}[Y])]\\ & = \mathbb{E}[XY - X\mathbb{E}[Y] - \mathbb{E}[X]Y + \mathbb{E}[X]\mathbb{E}[Y]]\\ & = \mathbb{E}[XY] - \mathbb{E}[X]\mathbb{E}[Y] - \mathbb{E}[X]\mathbb{E}[Y] + \mathbb{E}[X]\mathbb{E}[Y] \\ & = \mathbb{E}[XY] - \mathbb{E}[X]\mathbb{E}[Y] \end{align*}\] b \[\begin{align*} \text{Cov}(X, X) & = \mathbb{E}[X^2] - (\mathbb{E}[X])^2 = \text{Var}(X) \end{align*}\] c Z definicji: \[\begin{align*} \text{Cov}(X, Y) & = \mathbb{E}[XY] - \mathbb{E}[X]\mathbb{E}[Y]\\ \text{Cov}(Y, X) & = \mathbb{E}[YX] - \mathbb{E}[Y]\mathbb{E}[X] \\ & = \text{Cov}(X, Y) \end{align*}\] d Niech \(a, b \in \mathbb{R}\). Udowodnijmy: \[\begin{align*} \text{Cov}(aX + bY, Z) & = a \text{Cov}(X, Z) + b \text{Cov}(Y, Z)\\ & = \mathbb{E}[(aX + bY)Z] - \mathbb{E}[aX + bY] \mathbb{E}[Z]\\ & = a\mathbb{E}[XZ] + b\mathbb{E}[YZ] - (a\mathbb{E}[X] + b\mathbb{E}[Y])\mathbb{E}[Z]\\ & = a(\mathbb{E}[XZ] - \mathbb{E}[X]\mathbb{E}[Z]) + b(\mathbb{E}[YZ] - \mathbb{E}[Y]\mathbb{E}[Z])\\ & = a \text{Cov}(X, Z) + b \text{Cov}(Y, Z) \end{align*}\]

  1. Losujemy jednostajnie punkt \(\vec{X}=(X,Y)\) z koła \[ \left\{(x,y) \in \mathbb{R}^2 \: : \: x^2+y^2-2x-4y\leq -4 \right\}.\] Znajdź \(\mathrm{Cov}(X,Y)\).

\(0\)

Zadania na ćwiczenia

  1. Załóżmy, że wektor losowy \(\vec{X}= (X,Y)\) ma dwuwymiarowy rozkład normalny. Pokaż, że \(X\) i \(Y\) są niezależne wtedy i tylko wtedy, gdy \(\mathrm{Cov}(X,Y)=0\).

  2. Podaj przykład zmiennych losowych \(X\) i \(Y\) takich, że \(X\) i \(Y\) mają standardowy jednowymiarowy rozkład normalny, \(\mathrm{Cov}(X,Y)=0\), ale \(X\) i \(Y\) nie są niezależne.

  3. Niech \(X_1\) i \(X_2\) będą niezależnymi zmiennymi losowymi o rozkładzie \(\mathcal{N}(0,1)\). Wykaż, że zmienne losowe \(\frac{X_1 + X_2}{\sqrt{2}}\) i \(\frac{X_1 - X_2}{\sqrt{2}}\) są niezależne i obie mają rozkład \(\mathcal{N}(0,1)\).

  4. Na płaszczyźnie zaznaczono punkty \(p_1, \ldots , p_n\) w taki sposób, że żadne trzy nie są współliniowe. Każda para punktów została połączona odcinkiem z prawdopodobieństwem \(p\in (0,1)\). Niech \(X\) oznacza liczbę powstałych trójkątów o wierzchołkach w punktach \(p_1, \ldots , p_n\). Oblicz \(\mathbb{V}ar[X]\).

  5. Niech \(X\) będzie zmienną losową o rozkładzie \(\mathcal{N}(\mu, \sigma^2)\). Pokaż, że dla każdej \(\theta \in \mathbb{R}\), \[\begin{equation*} \mathbb{E}\left[ e^{\theta X} \right] = e^{\theta \mu +\theta^2\sigma^2/2}. \end{equation*}\]

  6. Niech \(\vec{X}=(X,Y)\) będzie wektorem losowym o dwuwymiarowym rozkładzie normalnym z parametrami \(\vec{m}=(0,0)\) i \[\begin{equation*} \Sigma = \left(\begin{array}{cc} a & \rho \\ \rho & b \end{array} \right) \end{equation*}\] dla \(\rho < \sqrt{ab}\). Znajdź rozkład zmiennej \(X\) i wywnioskuj, że \(\mathbb{V}ar[X]=a\).

  7. Dla zmiennej losowej \(X\) całkowalnej z kwadratem i zdarzenia \(A\) o dodatnim prawdopodobieństwie definiujemy wariancję \(X\) pod warunkiem \(A\) wzorem \[\begin{equation*} \mathbb{V}ar[X|A] = \mathbb{E} \left[ \left. (X - \mathbb{E}[X|A])^2 \right|A \right]. \end{equation*}\] Pokaż, że dla rozbicia \(\{A_j\}_{j \in \mathbb{N}}\) zbioru \(\Omega\) na zdarzenia o dodatnim prawdopodobieństwie zachodzi \[ \mathbb{E}[X] = \sum_i \mathbb{P}[A_i] \mathbb{E}[X|A_i] \] oraz \[ \mathbb{V}ar(X) = \sum_i \mathbb{P}(A_i) \cdot \mathbb{V}ar(X \mid A_i) + \sum_i \mathbb{P}(A_i) \cdot \left( \mathbb{E}[X \mid A_i] - \mathbb{E}[X] \right)^2. \]

  8. Rzucamy kostką aż do momentu otrzymania pierwszej jedynki. Niech \(X\) będzie sumą wyrzuconych oczek. Znajdź \(\mathbb{E}[X]\) oraz \(\mathbb{V}ar[X]\).

Zadania dodatkowe

  1. Niech \(\vec{X}\) i \(\vec{Y}\) będą niezależnymi \(d\)-wymiarowymi wektorami losowymi z rozkładem normalnym o parametrach \((0, \ldots, 0)\) i macierzy kowariancji \(I_d\) (identyczność).
  1. Udowodnij, że dla dowolnych \(f, g \in \mathcal{C}_b^2(\mathbb{R}^d)\) zachodzi \[\begin{equation*} \mathrm{Cov}(f(X), g(X)) = \int_0^1 \mathbb{E} \left[ \left\langle \nabla f(X), \nabla g(\alpha X + \sqrt{1 - \alpha^2} Y) \right\rangle \right] \mathrm{d}\alpha, \end{equation*}\] gdzie \(\nabla f(x) = \left( \frac{\partial f}{\partial x_i}(x) \right)\). Najpierw sprawdź wzór dla \(f(x) = e^{i \langle t, x \rangle}\) oraz \(g(x) = e^{i \langle s, x \rangle}\), gdzie \(s, t, x \in \mathbb{R}^d\).

  2. Niech \(\mu_\alpha\) będzie miarą probabilistyczną na \(\mathbb{R}^{2d}\), która jest rozkładem wektora \[ \left(X, \alpha X + \sqrt{1 - \alpha^2} Y\right), \] i niech \(\mu\) oznacza miarą probabilistyczną daną przez \[ \int_0^1 \mu_\alpha \, \mathrm{d}\alpha. \] Niech \(Z\) będzie wektorem losowym w \(\mathbb{R}^d\) takim, że wektor \((X, Z)\) w \(\mathbb{R}^{2d}\) ma rozkład \(\mu\). Udowodnij, że dla każdej funkcji Lipschitza \(f\), takiej że \(\|f\|_{\text{Lip}} \leq 1\) oraz \(\mathbb{E}[f(X)] = 0\), zachodzi nierówność \[ \mathbb{E}\left[f(X)e^{t f(X)}\right] \leq t \mathbb{E}\left[e^{t f(Z)}\right], \] dla wszystkich \(t \geq 0\). Wywnioskuj, że \[ \mathbb{E}\left[e^{t f(X)}\right] \leq e^{\frac{t^2}{2}}. \]

  1. Mówimy, że funkcja \(f : \mathbb{R}^n \to \mathbb{R}\) jest ograniczona wielomianowo, jeśli istnieją liczby całkowite \(k = (k_1, \ldots, k_n)\) oraz liczba rzeczywista \(a > 0\) takie, że \[ |f(x)| \leq |x_1|^{k_1} \cdots |x_n|^{k_n} \] dla każdego \(x = (x_1, \ldots, x_n)\) takiego, że \(\|x\| \geq a\).
  1. Udowodnij, że jeśli \(G\) jest zmienną losową o rozkładzie normalnym o średniej zero, to dla każdej ograniczonej wielomianowo i i różniczkowalnej w sposób ciągły funkcji \(\Phi\) zachodzi: \[ \mathbb{E}[G \Phi(G)] = \mathbb{E}\left[G^2\right] \, \mathbb{E}[\Phi'(G)]. \]

  2. Udowodnij, że jeśli \((G, G_1, G_2, \ldots, G_n)\) jest \((n+1)\)-wymiarowym wektorem losowym o rozkładzie normalnym, \(\mathbb{E}[G]=\mathbb{E}[G_i]=0\), to dla każdej ograniczonej wielomianowo i różniczkowalnej w sposób ciągły funkcji \[ \Phi : \mathbb{R}^n \to \mathbb{R}, \] zachodzi \[ \mathbb{E}\left[G \Phi(G_1, \ldots, G_n)\right] = \sum_{l \leq n} \mathbb{E}[G G_l] \, \mathbb{E}\left[\frac{\partial \Phi}{\partial x_l}(G_1, \ldots, G_n)\right]. \]