Студопедия
Случайная страница | ТОМ-1 | ТОМ-2 | ТОМ-3
АвтомобилиАстрономияБиологияГеографияДом и садДругие языкиДругоеИнформатика
ИсторияКультураЛитератураЛогикаМатематикаМедицинаМеталлургияМеханика
ОбразованиеОхрана трудаПедагогикаПолитикаПравоПсихологияРелигияРиторика
СоциологияСпортСтроительствоТехнологияТуризмФизикаФилософияФинансы
ХимияЧерчениеЭкологияЭкономикаЭлектроника

Свойства условной энтропии

Читайте также:
  1. IV. Предварительные данные о радиоактивных свойствах атомного взрыва
  2. VI. Влияние нагрева на структуру и свойства деформированного металла.
  3. VII. Механические свойства металлов
  4. XIII.Стали и сплавы с особыми физическими свойствами
  5. XXIII. Физические процессы в магнитных материалах и их свойства
  6. Алгебраические свойства операций над множествами
  7. Базисные свойства

 

1. Очень существенно, что условная энтропия Нα( β ) заключается между нулем и энтропией Н) (безусловной):

.

Это свойство хорошо согласуется со смыслом энтропии как меры неопределенности. Очевидно, что предварительное выполнение опыта α может лишь уменьшить степень неопределенности β, а в случае независимости опытов α и β степень неопределенности не изменится. Однако опыт α не может увеличить неопределенность опыта β.

2. Второе свойство =0

Если опыт действительно имеет вероятности исходов = Р (А1), Р (А2), …, Р (Ак) и сумма этих вероятностей = 1, то = 0, если все величины Н А1 () = Н А2 () = … = Н Ак () = 0

Суммарная энтропия такого опыта Н() = Н( )

Если мы имеем также вероятности исходов опыта (Р( )), то в этом случае величины энтропии опыта при условии опыта в сумме будут стремиться к энтропии Н(), т.е. в этом случае мы приходим к формуле суммирования энтропий независимых опытов.

3. Третье свойство:

учитывая, что опыты и ничем не отличаются друг от друга в своей постановке Н()=Н() следовательно: Н( )+Н ()=Н()+Н ( )

_______________

 

 


Дата добавления: 2015-10-21; просмотров: 80 | Нарушение авторских прав


Читайте в этой же книге: Энтропия. Формула Шеннона | Формула Шеннона | Свойства энтропии | Избыточность в языке | Код Шеннона-Фано | Анализ экономичности кода | Решение |
<== предыдущая страница | следующая страница ==>
Энтропия сложных событий| Информация в сложном опыте

mybiblioteka.su - 2015-2024 год. (0.005 сек.)