Обучение сети Кохонена

Алгоритм обучения сети Кохонена корректирует положение центров в слое топологической карты таким образом, чтобы приблизить их к цен­трам кластеров в обучающих данных. На каждом шаге обучения алгоритм выбирает элемент, чей центр лежит ближе всего к обучающему наблюде­нию. Этот элемент и соседние с ним затем корректируются так, чтобы они больше походили на данное обучающее наблюдение.

Исключительно важную роль в обучении Кохонена играет окрестность элемента. Корректируя не только сам выигравший элемент, но и соседние с ним, алгоритм Кохонена относит близкие наборы данных к смежным областям топологической карты. По ходу обучения окрестность посте­пенно сужается, и одновременно уменьшается скорость обучения, так что поначалу выстраивается грубое отображение (при котором на одно на­блюдение откликаются большие группы элементов), а на последующих этапах достраиваются более тонкие детали (так что отдельные элементы в группах реагируют на небольшие различия в данных).

Замечание. Как и в случае метода обратного распространения, в окне График обучения - Training Graph выводится среднеквадратичная ошибка. Однако в данном случае смысл этой ошибки совершенно иной, чем для обратного распространения.

В методе обратного распространения берется сумма квадратов значений функции ошибок, которая измеряет расстояние от выходного вектора сети до целевого выходного вектора. При этом ошибка, которая выдается в окне График обучения - Training Graph - это среднеквадратичное значе­ние ошибки выхода, взятое по всему обучающему множеству.

В обучении методом Кохонена функция ошибок - это расстояние от век­тора весов выигравшего радиального элемента до входного вектора. Та ошибка, которая выдается в окне График обучения - Training Graph - это среднеквадра­тичное значение этой входной ошибки, взятое по всему обучающему множеству.

Диалоговое окно Обучение сети Кохонена -Kohonen Training, которое открывается командой Кохонен - Kohonen... меню Обучить - Train или кнопкой , содержит начальные и конечные значения параметров Скорость обучения - Learning rate и Окре­стность - Neighborhood. Часто обучение Кохонена явным образом разде­ляется на фазу грубого приближения (упорядочивания) и фазу уточнения.

В нашем случае достаточная эффективность достигается при двух этапах по пятьдесят эпох в каждом. На первом этапе зададим уменьшение пара­метра Скорость обучения - Learning rate с начального значения 0,5 до конечного значения 0,1, а размер окрестности будем все время сохранять равным единице. На втором этапе скорость обучения будем держать по­стоянной и равной 0,1, а размер окрестности равным нулю.

После того, как сеть Кохонена обучена, можно рассмотреть ее, чтобы уз­нать, какие кластеры она образовала и чему они соответствуют.

В нашем примере мы будем делать это с известным лукавством, посколь­ку мы заранее знаем всю структуру данных (для применения сетей Кохо­нена это нетипично).

Дата добавления: 2015-11-30