i

p_i log_2 p_i " class="mwe-math-fallback-image-inline tex" src="https://upload.wikimedia.org/math/2/f/d/2fd908dc4a3a94a6f03d23ed11246460.png" style="border:none; display:inline-block; vertical-align:middle" />, где p_i вероятность i-го события.

Информация - это результат преобразования и анализа данных. Отличие информации от данных состоит в том, что данные - это фиксированные сведения о событиях и явлениях, которые хранятся на определенных носителях, аинформация появляется в результате обработки данных при решении конкретных задач.

Данные - это совокупность сведений, зафиксированных на определенном носителе в форме, пригодной для постоянного хранения, передачи и обработки. Преобразование и обработка данных позволяет получить информацию.

Информация - это результат преобразования и анализа данных. Отличие информации от данных состоит в том, что данные - это фиксированные сведения о событиях и явлениях, которые хранятся на определенных носителях, а информация появляется в результате обработки данных при решении конкретных задач. Например, в базах данных хранятся различные данные, а по определенному запросу система управления базой данных выдает требуемую информацию.

Количество информации в теории информации – это количество информации в одном случайном объекте относительно другого.

Пусть $x$ и $y$ – случайные величины, заданные на соответствующих множествах $X$ и $Y$ . Тогда количество информации $x$ относительно $y$ есть разность априорной и апостериорной энтропий:

$I(x,y)=H(x)-H(x|y)$ ,

где