1.2.3.   Семантические меры информации

Семантические меры информации оценивают смысл, содержание информации, ее целесообразность и существенность. Содержатель­ность события (i) выражается через функцию меры m(i) (содержа­тельность его отрицания):

cont(i) = m(~ i) = 1 – m(i),                                                        (1-41)

где  cont(i) – содержательность события i; m – функция меры; ~ – знак отрицания.

Оценка содержательности базируется на математической логике, в которой логические функции истинности m(i) и ложности m(~ i) имеют формальное сходство с вероятностью события и его отрицания:

m(i) + m(~ i) = l    и   0 £ m(i) £ 1.

Логическая оценка количества информации имеет внешнее сходство со статистической

~ i),                         (1-42)

где  Inf – логическая оценка количества информации.

Отличие логической оценки в том, что она учитывает меры истин­ности или ложности событий, а не вероятности их реализаций.

Существенность информации отражает степень важности информа­ции о том или ином значении параметра X с учетом времени Т и пространства  N.

Полезность информации для решения данной задачи можно оце­нивать по эффекту, который оказывает полученная информация на ре­шение задачи. Если вероятность достижения цели увеличивается, то информацию следует считать полезной. Можно также оценивать полезность информации числом попыток, которые совершает получатель информации для достижения цели. При таких оценках инфор­мация может быть пустой, если она не изменяет вероятности или числа проб для достижения цели, положительной или отрицательной вели­чиной.

Можно также оценивать ценность сообщений с помощью теории статистических решений. В этом случае во внимание принимается цель, с которой передается сообщение, т.е. учитываются результаты использования сообщений. Для оценки вводятся две характеристики: ценностная энтропия и ценность информации. При введении понятия ценностной энтропии рассматривается множество сообщений X и множество возможных решений Z.

Вводится в рассмотрение также функция потерь R(x, z), определяющая потери, соответствующие каждому сообщению х и решению z. Если бы было известно предполагае­мое к передаче сообщение, то каждый раз принималось бы решение, минимизирующее R(x, z). Если известно лишь распределение р(х), то выбирают некоторое конкретное правило решения G(х).

Выбор ре­шающего правила определяет величину потерь, соответствующую каждому значению сообщения. Под ценностной энтропией понимают средние потери при определенной выбранной стратегии. Для дискретных сообщений ценностная энтропия (НЦ) определится из выражения:

где λ(xi) – минимум функции потерь по z, соответствующий данно­му хi.

В случае непрерывных сообщений

Отметим, что приведенные определения ценностной энтропии яв­ляются лишь одной из попыток количественной оценки целесообраз­ности и существенности информации.