« Попередня Наступна »

2 Асимптотичні властивості оцінок максимальної правдоподібності

 При сприятливих умовах,
ММП-оцінка спроможна: в - в;
ММП-оцінка асимптотично нормальна:
vM ^ - в) - N (0, Vj);
Асимптотична дисперсійна матриця ММП-оцінки дорівнює
V, = (E [h **]) - 1 E [h * h *] (E [h **]) - 1 = (-I (в)) - 1І (в) (- І (в)) -1 = (I (в)) - 1.
Те, що «сендвіч» скоротився, є показником ефективності, що ми пізніше розглянемо докладніше.
Отже, у нас є два способи оцінювання асимптотичної діперсіонной матриці:
((і) = Ґ 1 ds (zh & Г
n ^ dq '
г = 1
якщо користуватися визначенням, і
1
(Г = (n Е s (zi, 0) s (ZiJ) '
г = 1
якщо користуватися леммой про інформаційний рівність. Обидві оцінки спроможні, якщо виконані всі необхідні умови. Друга оцінка простіше, бо не потрібно вважати другі похідні.
 Немає навіть проблем з позитивною визначеністю, т. К. Друга оцінка позитивно визначена з побудови, а в першій позитивну визначеність гарантують умови другого порядку (при оптимізації ми отримуємо, що матриця других похідних негативно визначена в 9). Можна побудувати ще одну оцінку:
-І / "1
1 A ds (Zi, e) \ 1 А - -Д 1 A ds (Zi, d)
Vf = {1Z ^ FJ ^ Е s (Zi.ff) s (Zi, ey) dq '
Ця оцінка більш робастний до невиконання деяких умов. Наприклад, бувають «безневинні» помилки специфікації щільності, при яких спроможність ММП- оцінок зберігається. У такій ситуації корисно будувати більш робастний оцінку Асім-птотіческой діперсіонной матриці, бо тільки вона одна з трьох виявляється заможної.
« Попередня Наступна »
= Перейти до змісту підручника =

2 Асимптотичні властивості оцінок максимальної правдоподібності

  1. 3 Асимптотичні властивості ОММ-оцінок
     Як і раніше, найважливішою умовою є умова ідентифікації: E [m (z, q)] = 0 тоді і тільки тоді, коли q = 0. Позначимо = E Гdm (z, 0) 'lxk L dq' Qmm = E [m (z, 0) m (z, 0) ']. Ixl При сприятливих умовах, ОММ-оцінка спроможна: 0 Д 0; ОММ-оцінка асимптотично нормальна: v / i (9 - 0) Д N (0, Vj); Асимптотична дисперсійна матриця ОММ-оцінки дорівнює V- = (QdmWQdm) -iQdmWQmmWQdm (QdmWQdm) -i.
  2. 2 Концепції асимптотичної теорії
     Часто використовуваними поняттями асимптотичної теорії є спроможність, асимптотична нормальність і асимптотична ефективність. Нехай нас цікавлять асимптотичні властивості оцінки / ЗГА, отриманої з вибірки розміру п. Оскільки ми припускаємо випадкову природу вихідних даних, побудована оцінка буде випадковою величиною. Таким чином, ми маємо послідовність випадкових
  3. 6 Додаток: модель бінарного вибору
     Розглянемо наступну нелінійну модель: / і хів + Єі> 0, уі = <Єі | хі ~ N (0,1). 0, Знайдемо форму регресії: E [у | х] = P {х'в + Є> 0 | х} = P {Є> -х'в | х} = Ф (х'в). Видно, що регресія нелінійна, НМНК-оцінка в цьому випадку є 1n в = argmin- у (yi - Ф (х'б)) 2 bni = 1 з асимптотичними властивостями Д Д в, -П (залізничний в) Д N ( 0, Q "g1Qe2ggQ ^, 1), де ge (х, в) = f (х'в) х, Qgg = E [f (х'в) 2хх '], Qe2gg = E [f (х'в) 2 (у
  4. 4 Асимптотична ефективність ММП-оцінок
     Наведемо що іноді зустрічається твердження про симптотичену ефективності ММП-оцінок. Невірний результат. Оцінка максимальної правдоподібності 9 асимптотично ефективна в класі заможних асимптотично нормальних оцінок. Це невірно через існування так званих суперефективністю оцінок. Нехай оцінка яку ми вважаємо ефективною, спроможна і асимптотично нормальна, т. Е. / П (в - 9)
  5. 5 Асімтотіческіе властивості ОМНК-оцінок
     Розглянемо асімтотіческіе властивості ОМНК-оцінки, Для цього представимо її в сле-ступному вигляді: 1 п '\ 1 - п X ^ xixi - v ^ xiei = 1 a2 (xi)) n ^ a2 (xi) Д = в + -Е -Е 1 n .. a2 (xi) / n 'Користуючись законом великих чисел і центральною граничною теоремою, отримаємо: 1Е QE xx / a2 ХІХ и P a2 (x) n = 1 a2 (xi) = 1 a2 (xi) 0 E xe a2 (x) xiei p 1V n VN (0, Q xx / a2 E [e2 \ x] xiei d Vn a2 (xi) Останній вираз
  6. 11 Поведінка ОММ-оцінок в кінцевих вибірках
     Помічено, що двоступенева ОММ-оцінка володіє поганими властивостями в маленьких вибірках, іноді буваючи навіть менш ефективною, ніж асимптотично неефективні ОММ-оцінки (наприклад, з рівномірним зважуванням W = I). Причини цього - це, по перше, те що на першому кроці ми оцінюємо порядку l2 елементів матриці Qmm, що складно зробити точно, особливо коли є багато умов на моменти, і
  7. 2 Асімтотіческіе властивості МНК-оцінки
     Для з'ясування асимптотичних властивостей МНК-оцінки перепишемо її в наступному вигляді: (1 n \ -1 1 П в = в + - У xixi - УхІЄІ. \ N / n \ i = 1 J i = 1 - p Як ми вже знаємо, МНК-оцінка спроможна, т. е. Д - в| Крім того, МНК-оцінка асимптотично розподілена за нормальним законом: (n \ 1 nn Y1 ХІХІ) xiei - N 2xx, i = 1 / * i = 1 де ми використовували такі позначення: Qxx = E [xx '], Qe * xx = E [e2xx' \ =
  8. 10 Бутстрапірованіе ОММ-оцінок
     Нагадаємо, що бутстрап - це альтернативний асимптотиці спосіб побудови статистичних висновків. Бутстрап використовується, коли нас не влаштовує асимптотичне наближення через його неточності. А розподілу ОММ-оцінки і особливо J-статистики якраз погано наближаються їх асимптотичними розподілами. Отже, генеруємо бутстраповскіе псевдовиборкі У {zi, ..., zn} i {zb. . . , Zn}>. . . \
  9. 5 Асимптотична ефективність і ВНМНК-оцінка
     НМНК-Оцепки можна розглядати як аналогову оцінку, отриману з умови E [ege (х, в)] = 0, Можна побудувати іншу аналогову оцінку, дещо змінивши умова неекоррелірованноеті: GE (ж, /) "0. E а2 (х) Це умова слід їх регресійного припущення. Згідно з принципом анало гии, 1Ё (у - g (*, J)) Яо ^ о. i = 1 Рішення в, отримане з цього рівняння, є оцінкою зваженого нелінійного
  10. 4 Неповна ідентифікація
     Qzx до В інструментах не вистачає інформації, здатної однозначно ідентифікувати параметр, У цьому випадку інструментальні оцінки будуть мати неприємні асимптотичні властивості. Приклад. Розглянемо наступну модель: l = к = 1, y = вх + e, E [e \ Z] = 0, E [XZ] = 0. Остання рівність означає, що ранг дорівнює 0, т. Е. Не виконана умова релевантності інструментів . Згідно центральної граничної
  11. 5 Умовний метод максимальної вірогідності
     Зазвичай економетричні моделі формуються в термінах умовних густин або ймовірностей y | x. Розглянута ж нами теорія справедлива для спільного розподілу всієї пари. Зазвичай спільна щільність розподілу f (y, xlq) НЕ специфікована - ми не хочемо припускати форму щільності x, оскільки x, як правило, - екзогенна змінна, поведінка якої ми не збираємося моделювати. Нехай
  12. Асимптотична нормальність
     важлива з тієї причини, що перевірка статистичних гіпотез і побудова довірчих інтервалів вимагають знання розподілу оцінки, а т. к. точного розподілу ми не знаємо, користуємося асимптотическим, нормальним, розподілом. Тут фігурує саме нормальний розподіл, оскільки граничні теореми, що є серцем асімптотітеской теорії, говорять саме про нормальність емпіричних
  13. Екстремальне оцінювання
     - Це в якомусь сенсі узагальнення знайомого нам нелінійного методу найменших квадратів (НМНК). НМНК - це один з найважливіших приватних випадків; іншим є метод максимальної вірогідності (ММП). Спочатку ми розглянемо загальну теорію, а потім - ці два важливих приватних випадку. Розглянемо наступну постановку: в = argmax E [h (z, q)], де в - істинне значення параметра q, вектора розмірності k х 1, в
  14. 8МНК і ОМНК в регресом на тимчасових рядах
     Розглянемо наступну регресійну модель: yt = xte + et, E [et | 1t-1] = 0, E [et2 | / t-1] = a2 (/ t-1), де {(xt, yt)} T = 1 - стаціонарний і ергодичні процес, а / t-1 = {yt-1, yt-2,. . . ; xt, xt-1, ...}. Прикладами таких моделей можуть служити: Модель AR (p), де xt = (yt-1, yt-2, ..., yt-P) '- Лінійне передбачення обмінного курсу: St + 1 - st = a + - st) + et, E [e11 / t-1] = 0, де / t - ціна форвардного
  15. 5 Тест на сверхідентіфіцірующіе обмеження
     Ми знаємо, як будувати ефективну ОММ-оцінку, знаємо, які у неї асимптотичні властивості, знаємо, як виглядає асимптотична дисперсія і як її заможно оцінювати. Все готове для проведення звичайної инференции, зокрема, для тестування звичайних гіпотез - обмежень на параметри. Виявляється, що завдяки особливому типу завдання, а точніше, завдяки сверхідентіфіцірующей інформації, мається