Доверительные интервалы в нелинейной регрессионной модели

Основное назначение нелинейной, содержательной регрессии - это прогнозирование, поэтому главной проблемой, является построение правильных доверительных интервалов при экстраполяции значений отклика.

Уравнение нелинейной регрессии в общем виде выглядит, как линейной регрессии, дополненной весами при параметрах, которые и необходимо оценить.

Рис. 1

Общий вид уравнения нелинейной регрессии

Наиболее удобно представлять результат прогноза в виде доверительного интервала. Существует два подхода к нахождению таких интервалов: аналитический (или параметрический) и выборочный (или непараметрический). Первый подход использует некоторую достаточную статистику с известным законом распределения. Его можно применять только в сравнительно простых случаях, например, для линейной регрессии. Второй способ требует наличия большого количества повторных измерений, по которым требуемый интервал и строится как соответствующий процентиль. К сожалению, для нелинейной регрессии ни один из этих подходов не годится, т.к. первый слишком неточен, а второй слишком медленен.

Новый способ, отличный от традиционных методов наименьших квадратов и максимального правдоподобия, доверительного оценивания, называется связанное моделирование, который является разновидность метода Монте-Карло, понимаемого в широком смысле.

Метод Монте-Карло (методы Монте-Карло, ММК) — общее название группы численных методов, основанных на получении большого числа реализаций стохастического (случайного) процесса, который формируется таким образом, чтобы его вероятностные характеристики совпадали с аналогичными величинами решаемой задачи.

Имитационное моделирование (M-метод)

Традиционные методы построения доверительного интервала опираются на довольно грубые приближения вида распределения оценок параметров α и прогнозируемой функции g(a). Избежать этих недостатков, можно используя методы имитационного моделирования. Основная идея этих методов состоит в том, чтобы смоделировать с помощью метода Монте-Карло распределение оценок параметров и взять выборочный процентиль распределения в качестве доверительного интервала.

Пусть a0 и s^2 - это реализации оценок, полученные в эксперименте, т.е. при y=y0.

α*, γ* - случайные величины, порожденные моделью, причем γ*= g (α*)

Практически это означает следующий алгоритм:

1) по исходным данным y0 определяются величины a0 и s^2

2) строится нормальный независимый вектор ошибок

3) создаются модельные данные

4) оцениваются α* и γ*

5) независимо повторяя шаги 2)-4) получаем выборку значений γ1*,...,γM*

Тогда граница интервала рассчитывается как:

γ+(P)= P-процентиль{γ1*,...,γM*}

Заключение

Для правильного моделирования исследуемого процесса или системы важна, прежде всего, постановка задачи. Именно она определяет выбор надлежащего подхода. Предсказание (строго говоря, интерполяция) значений сигнала внутри экспериментальной области это первая постановка. Прогнозирование (экстраполяция) значений модели на область переменных, которая лежит далеко от области наблюдений – это вторая возможная постановка. Необходимо подчеркнуть существенную разницу этих двух задач. Хорошо известно, что ошибка предсказания (интерполяции) не зависит от вида модели – она, в основном, определяется ошибкой измерений. Напротив, ошибка прогноза (экстраполяции) зависит, прежде всего, от модели и уже во вторую очередь от ошибки измерения. Поэтому, «формальные» модели (в основном, линейные) пригодны для предсказания, и только «содержательные» модели (в основном, нелинейные) пригодны для прогнозирования.

Выбор модели остается главной проблемой для использования НЛРА. Вопрос о том, откуда взять модель, относится к категории вечных вопросов, на которые невозможно дать однозначного ответа. Всякая модель отражает только актуальную глубину нашего понимания сути изучаемого явления. Чем больше мы знаем, тем легче составить модель. При этом, нелинейная модель может быть простой, а линейная модель

сложной. Это связано с тем, что содержательная модель использует, как правило, минимальный набор неизвестных параметров, который обусловлен природой системы, тогда как формальная модель вынуждена привлекать большой набор параметров, базирующийся только на структурных особенностях системы.

Список литературы

Померанцев А. Л. Методы нелинейного регрессионного анализа для моделирования кинетики химических и физических процессов. [Электронный источник] (http://rcs.chph.ras.ru/papers/thesis_alp.pdf)

Pomerantsev A. Non-linear Regression Analysis with Fitter Software Application. [Электронный источник] (http://rcs.chph.ras.ru/WSC1/nlr.ppt)

Статья Метод Монте-Карло [Электронный источник] (http://ru.wikipedia.org/wiki/Метод_Монте-Карло)

Дата добавления: 2015-10-24