1.2.     МЕРА КОЛИЧЕСТВА ИНФОРМАЦИИ

Теория информации изучает основные закономерности получения, передачи, хранения и обработки информации. В настоящее время в теории информации выделяется три основ­ных направления: структурное, статистическое и семантическое.

Структурное – рассматривает дискретное строение массивов ин­формации и их измерение простым подсчетом информационных эле­ментов или комбинаторным методом, предполагающим простейшее кодирование массивов.

Статистическое направление оперирует понятием энтропии как меры неопределенности, учитывающей вероятность появления тех или иных сообщений.

Семантическое направление учитывает целесообразность, ценность, полезность или существенность информации.

Эти три направления имеют свои определенные области примене­ния. Структурное используется для оценки возможностей техниче­ских средств различных систем переработки информации независимо от конкретных условий их применения. Статистические оценки при­меняются при рассмотрении вопросов передачи информации, опреде­лении пропускной способности каналов передачи. Семантические оцен­ки используются при решении задач построения систем передачи информации, разработке кодирующих устройств и при оценке эффек­тивности различных устройств.