Функция потерь и вероятность неправильной классификации

Дискриминантный анализ - является разделом многомерного статистического анализа включающего в себя вероятностно-статистические методы классификации многомерных наблюдений, когда исследователь обладает так называемыми обучающими выборками.

Задача различия (дискриминации) формируется так:

Пусть результатом наблюдения над объектом О_S,s=1,n является реализация p-мерного случайного вектора.

Х_S=(Х_S⁽¹⁾,…., Х_S^(P)) s=1,n

Требуется выработать правило, согласно которому по наблюдению Х_S объект

О_S относят к одному из возможных классов. Под i-м классом при вероятностно-статистическом подходе мы будем понимать генеральную совокупность, задаваемую унимодальной функцией плотности f_i(U) i= _{1, k}

(Или унимодальным полигоном вероятностей в дискретном случае).

Общая идея, положенная в основу вер-стат. Методов классификации, состоит в том, что мы относим наблюдение Х₁ к тому классу, для которого это наблюдение выглядит наиболее правдоподобно.

Вообще мы должны располагать полным списком гипотетических классов, т.е. значением функций f_i(U). Если это имеет место, то происходит так называемая классификация при полностью описанных классах.

Однако, на практике априорная информация может быть представлена в виде выборок из распределений с плотностью f_i(U). Априорные вероятности p_i о принадлежности к совокупности с заданной плотностью f_i(U) тоже могут быть заданы, либо нет.

Будем учитывать стоимость потерь (размер убытка) от неправильной дискриминации. Обозначим с(j / i) стоимость потерь от отнесения объекта i-го класса к объекту j-ого класса. Очевидно, что с(i / i)=0, i=1,к

Статистическая интерпретация:

Если в результате классификации n векторов Х₁,…, Х_n (т объектов О₁,…, О_n) мы n раз m_n (j / i) относим объект (наблюдения) из i-ого класса в j-ый класс. Тогда удельные средние потери при этом составят

Обозначим n_i (n) число наблюдений (объектов) i-ого класса

(7.1)

При достаточно общих условиях:

p(j/i) вероятность отнесения объекта из класса i в класс j.

Тогда выражение (7.1) можно записать:

(7.2)

-средние потери от неправильной классификации объектов i-ого класса.

Тогда из (7.2) получается формула

Дата добавления: 2015-07-24