Максимального правдоподобия метод

метод нахождения статистических оценок (См. Статистические оценки) неизвестных параметров распределения; согласно М. п. м., в качестве оценок выбираются те значения параметров, при которых данные результаты наблюдений «наиболее вероятны». Предполагается, что результаты наблюдений X₁, ..., X_n являются взаимно независимыми случайными величинами с одним и тем же Распределением вероятностей, зависящим от одного неизвестного параметра θ ∈ Θ, где Θ — множество допустимых значений θ. Для придания точного смысла принципу «наибольшей вероятности» поступают следующим образом. Вводят функцию

,

где p(t;θ) в случае непрерывного распределения интерпретируется как плотность вероятности случайной величины X, а в дискретном случае — как вероятность того, что случайная величинаХ примет значение t. Функцию L(X₁, . . ., Xn;θ) от случайных величин X₁, . . ., X_n называют функцией правдоподобия, а оценкой максимального правдоподобия параметра θ называют такое значение X₁, . . ., X_n) (само являющееся случайной величиной), при котором функция правдоподобия достигает наибольшего возможного значения. Так как точка максимума для log L та же, что и для L, то для нахождения оценок максимального правдоподобия следует решить так называемое уравнение правдоподобия

.

М. п. м. не всегда приводит к приемлемым результатам, однако в достаточно широком круге практически важных случаев этот метод является в известном смысле наилучшим. Так, например, можно утверждать, что если для параметра θ существует несмещенная эффективная оценка θ* по выборке объёма n, то уравнение правдоподобия имеет единств, решение n, то известно, что при некоторых общих условиях М. п. м. приводит к состоятельной оценке, которая асимптотически нормальна и асимптотически эффективна. Данные выше определения непосредственно обобщаются и на случай нескольких неизвестных параметров и на случай выборок из многомерных распределений. М. п. м. в его современном виде был предложен английским статистиком Р. Фишером (1912), однако в частных формах метод использовался К. Гауссом, а ещё раньше, в 18 веке, к его идее были близки И. Ламберт и Д. Бернулли. Следует добавить, что название «М. п. м.» является калькой с английского «maximum likelihood method».

Лит.: Крамер Г., Математические методы статистики, перевод с английского, М., 1948; Рао С. Р., Линейные статистические методы и их применения, перевод с английского, М., 1968; Худсон Д., Статистика для физиков, перевод с английского, М., 1970.

А. В. Прохоров.

МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯ МЕТОД

- метод оценивания неизвестных параметров для распределения случайной величины c по наблюдению её реализаций при параметрич. анализе данных.M. п. м. был предложен P. Э. Фишером (R. A. Fisher) в 1912 и формулируется след, образом. Пусть плотность вероятности величины х есть где - вектор неизвестных параметров. Определим ф-цию правдоподобия выражением

к-рое в отличие от плотности вероятности рассматривают как ф-цию вектора а при заданном векторе c реализовавшихся значений . Оценкой M. п. м. паз. вектор отвечающий максимуму выражения (1) и принадлежащий допустимой области значений Часто ищут максимум выражения что упрощает задачу поиска для экспоненциальных распределений. Идея M. п. м. заключается в том, что данная реализация вектора должна отвечать наиболее вероятному значению , а потому при заданном выражение должно принимать макс, значение. Напр., время жизни г нестабильных частиц подчиняется распределению где - неизвестный параметр, характерный для каждой частицы. Пусть измерены времена жизни для N распадов. Если пренебречь ошибками измерений то ф-ция правдоподобия равна

Оценка M. п. м.получается из решения ур-ния правдоподобия

и равна

С M. п. м. связано неравенство Крамера - Рао: дисперсия D (а )оценки параметра а, полученной любым методом, удовлетворяет неравенству

где

наз. смещением оценки

наз. кол-вом информации в о параметре а. В случае вектора параметров неравенство (2) обобщается след, образом. Если ввести ср. значения

ковариационную матрицу

матрицу и информац. матрицу

то справедливо неравенство

где I -единичная матрица, т означает транспонирование. Если оценки являются несмещёнными, то для дисперсий как это следует из (3), выполняется неравенство

Неравенство Крамера - Рао полезно тем, что позволяет ещё на стадии планирования эксперимента оценить достижимую точность "измерения" параметров изучаемых распределений.

При нек-рых ограничениях на можно показать, что оценка M. п. м. состоятельна, т. е. при один из корней ур-ния правдоподобия, стремится к точному значению а. Оценка M. п. м. асимптотически распределена по нормальному закону с нулевым ср. значением и дисперсией, равной .

При конечных N оценка M. п. м., вообще говоря, является смещённой. Оптим. свойством оценки M. п. м. при конечных N оказывается то, что при нек-рых условиях достигает нижней границы, задаваемой неравенством Крамера - Рао (2). В общем случае свойства оценки M. п. м. можно изучить при помощи Монте-Карло метода: задавая значение a из области возможных значений, получают выборку находят оценку и строят её среднее значение и ковариационную матрицу. Другое оптимальное свойство оценки M. п. м.: оценка ф-ции /(а) равна . В этом её преимущества перед оценкой по наименьших квадратов методу.

Лит.: Клепиков H. П., Соколов С. H., Анализ и планирование экспериментов методом максимума правдоподобия, M., 1964; Pао С. Р., Линейные статистические методы и их применения, пер. с англ., M., 1968; Кендал л M., Стьюарт А., Статистические выводы и связи, пер. с англ., M., 1973; Статистические методы в экспериментальной физике, пер. с англ., M., 1976. В. П, Жигунов.