Энтропия түсінігі.

Байланыс жүйесі ұғымы.

Жіберу орнынан қабылдау орнына ақпаратты тасымалдау байланыс жүйесі деп аталынатын техникалық құрылғылар жиынтығымен іске асырылады. Байланыс жүйесі таратқыштан, байланыс жүйесінен және қабылдағыштан тұрады. Таратқыш хабарламаны сигналға ауыстырады. Сигнал дегеніміз өзгеріп тұратын физикалық шама (қандайда бір физикалық жүйенің жағдайы). Әдетте электромагниттік өріспен өзгеріп тұратын, электрлік сигналмен байланысты болады. Байланыс жүйесінің барлық звеноларында кедергі болады (әдетте оларды шартты түрде тек байланыс желістеріне жатқызады. Кедергінің әсерінің нәтижесінде қабылданған сигнал жіберілген сигналдан өзгеше болады. Шығарылған хабарламаның алғашқы хабарламаға сәйкестік өлшемі ақиқаттылық деп аталынады. Ақиқаттылықты санмен өрнектеуге мүмкіндік беретін, ақиқаттылық критериі хабарламаны жіберуіші мен хабарламаны қабылдаушының қасиеттерімен анықталады. Себебі ақиқаттылық критериі сөзді тасымалдағанда анықтылық, ал телемеханикада телеөлшеудің орташаквадраттық қателік ауытқуының қызметін атқаруы мүмкін және т.б. Кедергінің бар болуына қарамастан, байланыс жүйесі берілген ақиқаттылықты қамтамасыз етуі үшін әрекет жасауы керек. Байланыс жүйесінде кедергілер көп болған сайын, қажетті ақиқаттылықты табу қиынға соғады.

Энтропия түсінігі.

Шеннон энтропияны ансамблінен дискреттік қайнар көздің жағдайының анықталмаған таңдауының өлшемі ретінде анықтады.

(1.1)

Оны қайнар көздің жағдайына қатысты анықталмағандықты толығымен жойғанда алынатын ақпарат санының шамасы ретінде де қарастыруға болады. (1.1)-дегі логарифмнің негізі – өлшем бірлікті анықтайды. Негізі 2 болғанда – бит, 10 болғанда – дит, e болғанда – нат өлшем бірлігі болады. Қайнар көздің тең ықтималдықты жағдай кезінде Шеннон формуласы келесі түрде болады:

– Хартли формуласы

1.1-мысал. Екі дискретті кездейсоқ шаманың және ансамбльдері берілген. және анықтаңыз.

Шешуі:

Дата добавления: 2015-07-08