Кибернетический (алфавитный) подход к измерению информации

Кибернетический подход к измерению информа­ции является альтернативным к содержательному подходу. Здесь речь идет об измерении количества ин­формации в тексте (символьном сообщении), составленном из сим­волов некоторого алфавита. К содержанию текста такая мера информации отношения не имеет. Поэтому такой подход можно назвать объективным, т.е. не зависящим от воспринимающего его субъекта.

Алфавитный подход — это единственный способ измерения информации, который может применяться по отношению к ин­формации, циркулирующей в информационной технике, в ком­пьютерах.

Алфавит — это конечное множество символов, используемых для представления информации. Число символов в алфавите называется мощностью алфавита (термин взят из математической теории множеств). В основном содержании базового курса алфавитный подход рассмат­ривается лишь с позиции равновероятного приближения. Это зна­чит, что допускается предположение о том, что вероятности по­явления всех символов алфавита в любой позиции в тексте одина­ковы. Разумеется, это не соответствует реальности и является упрощающим предположением.

В рассматриваемом приближении количество информации, которое несет в тексте каждый символ (i), вычисляется из уравнения Хартли: 2 ⁱ = N, где N — мощность алфавита. Величину i можно назвать информационным весом символа. Отсюда следует что количество информации во всем тексте (I), состоящем из K символов, равно произведению информационного веса символа на К: I = i х К. Эту величину можно назвать информационным объемом текста. Такой подход к измерению информации еще на­зывают объемным подходом.

Минимальная мощность алфавита, пригодного для передачи ин­формации, равна 2. Такой алфавит называется двоичным алфавитом. Информационный вес символа в двоичном алфавите легко опре­делить. Поскольку 2ⁱ = 2, то i = 1 бит. Итак, один символ двоичного алфавита несет 1 бит информации

Бит — основная единица измерения информации. Кроме нее используются и другие единицы. В любой метрической системе существуют еди­ницы основные (эталонные) и производные от них. Например, основная физическая единица длины — метр. Но существуют мил­лиметр, сантиметр, километр. Расстояния разного размера удобно выражать через разные единицы. Так же обстоит дело и с измере­нием информации. 1 бит — это исходная единица. Следующая по величине единица — байт. Байт вводится как информационный вес символа из алфавита мощностью 256. Поскольку 256 = 2⁸, то 1 байт = 8 бит.

Компь­ютер для внешнего представления текстов и другой символьной ин­формации использует алфавит мощностью 256 (во внутреннем пред­ставлении любая информация в компьютере кодируется в двоич­ном алфавите). Фактически, для выражения объема компьютерной информации в качестве основной единицы используется байт.

В информатике Килобайт больше байта в 1024 раза, а число 1024 = 2¹⁰. Так же относится и «мега» по отношению к «кило» и т.д. Тем не менее часто при приближенных вычислениях ис­пользуют коэффициент 1000.

Дата добавления: 2015-07-14