Две задачи на минимум среднему риску (домашнее задание 16.09.10)

[Nikolai Zolotykh]

Напомню домашнее задание.

Необходимо доказать, что
1) Если функция потерь - квадрат разности, то минимум функции потерь
доставляет условное среднее.
2) Если функция потерь - модуль разности, то минимум функции потерь
доставляет условная медиана.

Кто напишет правильное решение или даст умный комментарий, тому будет
счастье.

[Sergey Bastrakov]

1) Следует из неравенства: E((X - c)^2) >= E((X - E(X))^2) для любой
константы c (X - случайная величина).
Само неравенство доказывается так: раскрываем квадраты и используем
линейность мат. ожидания, в правой части приводим подобные:
E(X^2) - 2*c*E(X) + c^2 >= E(X^2) - E(X)^2;
переносим все в левую часть и приводим подобные:
E(X)^2 - 2*c*E(X) + c^2 >= 0;
замечаем, что в левой части полный квадрат:
(E(X) - c)^2 >= 0.
Отсюда также следует, что при c <> E(X) неравенство выполняется
строго, т.е. исходном утверждении argmin единственный.

[Nikolai Zolotykh]

Сергей Бастраков +5 баллов

[Sergey Bastrakov]

Здесь можно писать формулы или прикреплять файлы к сообщениям?

[Nikolai Zolotykh]

Формулы писать нельзя. Можете писать в теховской нотации - мы поймем.
Файл можно прикрепить на вкладке "файлы".

[Sergey Bastrakov]

2) Следует из неравенства E(|X - c|) >= E(|X - median(X)|) для любой
константы c (X - случайная величина). Далее использована теховская
нотация, я не очень с ней дружу и особенно с переносами формул :)

Оценим выражение: $\ E(|X - c|) - E(|X - \mbox{median}(X)|)$:
$
E(|X - c|) - E(|X - \mbox{median}(X)|) =
\int\limits_{-\infty}^{+\infty}{|x - c|\,dP(x)} - \int\limits_{-
\infty}^{+\infty}{|x - \mbox{median}(X)|\,dP(x)} = -\int\limits_{-
\infty}^{c}{(x - c)\,dP(x)} + \int\limits_{c}^{+\infty}{(x - c)
\,dP(x)} + \int\limits_{-\infty}^{\mbox{median}(X)}{(x - \mbox{median}
(X))\,dP(x)} - \int\limits_{\mbox{median}(X)}^{+\infty}{(x -
\mbox{median}(X))\,dP(x)} = \left(-\int\limits_{-\infty}^{c}{x\,dP(x)}
+ \int\limits_{c}^{+\infty}{x\,dP(x)} + \int\limits_{-\infty}
^{\mbox{median}(X)}{x\,dP(x)} - \int\limits_{\mbox{median}(X)}^{+
\infty}{x\,dP(x)} \right) + \left(c\left(\int\limits_{-\infty}^{c}
{dP(x)}-\int\limits_{c}^{+\infty}{dP(x)}\right)-\mbox{median}(X)
\left(\int\limits_{-\infty}^{\mbox{median}(X)}{dP(x)} - \int
\limits_{\mbox{median}(X)}^{+\infty}{dP(x)} \right) \right) = (*)
$
\newline
Рассмотрим первые скобки: суммируя первый c третим и второй с
четвертым интегралом, получаем, что обе суммы равны $\int\limits_{c}
^{\mbox{median}(X)}{x\,dP(x)}$.
\newline
Выражение во вторах (больших) скобках равно $c(2P(c)-1)$ (здесь
использованы свойства $P(x)$ и медианы: $P(\mbox{median}(X))=0.5$).
\newline
Таким образом,
$$
(*) = 2\int\limits_{c}^{\mbox{median}(X)}{x\,dP(x)}+ c(2P(c)-1)
$$
Произведем оценку:
$$
\int\limits_{c}^{\mbox{median}(X)}{x\,dP(x)} \geq c(P(\mbox{median}
(X))-P(c)) = c(0.5 - P(c))
$$
Таким образом $ (*) \geq 2c(0.5 - P(c))+ c(2P(c)-1) = 0 $, откуда
вытекает требуемое.

[Sergey Bastrakov]

[Nikolai Zolotykh]

Решение правильное.
Немного отформатировал и откомпилировал: см. раздел файлы.

Будут ли у кого другие решения?