Количество информации

• Реферат
• По информатике
• Количество информации
• Содержание
• Введение
• 1. Бит
• 2. Неопределенность, количество информации и энтропия
• 3. Формула Шеннона
• 4. Формула Хартли
• 5. Количество информации, получаемой в процессе сообщения
• Список использованной литературы
• Введение

По определению  А.Д. Урсула - «информация есть отраженное разнообразие». Количество информации есть количественная мера разнообразия. Это может быть разнообразие совокупного содержимого памяти; разнообразие сигнала, воспринятого в процессе конкретного сообщения; разнообразие исходов конкретной ситуации; разнообразие элементов некоторой системы… - это оценка разнообразия в самом широком смысле слова.

Любое сообщение  между источником и приемником информации имеет некоторую продолжительность  во времени, но количество информации воспринятой приемником в результате сообщения, характеризуется в итоге  вовсе не длиной сообщения, а разнообразием  сигнала порожденного в приемнике  этим сообщением.

Память носителя информации имеет некоторую физическую ёмкость, в которой она способна накапливать образы, и количество накопленной в памяти информации, характеризуется в итоге именно разнообразием заполнения этой ёмкости. Для объектов неживой природы  это разнообразие их истории, для  живых организмов это разнообразие их опыта.

1.Бит

Разнообразие необходимо при передаче информации. Нельзя нарисовать белым по белому, одного состояния  недостаточно. Если ячейка памяти способна находиться только в одном (исходном) состоянии и не способна изменять свое состояние под внешним воздействием, это значит, что она не способна воспринимать и запоминать информацию. Информационная емкость такой ячейки равна 0.

Минимальное разнообразие обеспечивается наличием двух состояний. Если ячейка памяти способна, в зависимости  от внешнего воздействия, принимать  одно из двух состояний, которые условно  обозначаются обычно как «0» и «1», она обладает минимальной информационной ёмкостью.

Информационная ёмкость  одной ячейки памяти, способной находиться в двух различных состояниях, принята  за единицу измерения количества информации - 1 бит.

1 бит (bit - сокращение от англ. binary digit - двоичное число) - единица измерения информационной емкости и количества информации, а также и еще одной величины - информационной энтропии, с которой мы познакомимся позже. Бит, одна из самых безусловных единиц измерения. Если единицу измерения длины можно было положить произвольной: локоть, фут, метр, то единица измерения информации не могла быть по сути никакой другой.

На физическом уровне бит является ячейкой памяти, которая  в каждый момент времени находится  в одном из двух состояний: «0»  или «1».

Если каждая точка  некоторого изображения может быть только либо черной, либо белой, такое  изображение называют битовым, потому что каждая точка представляет собой  ячейку памяти емкостью 1 бит. Лампочка, которая может либо «гореть», либо «не гореть» также символизирует  бит. Классический пример, иллюстрирующий 1 бит информации - количество информации, получаемое в результате подбрасывания монеты - “орел” или “решка”.

Количество информации равное 1 биту можно получить в ответе на вопрос типа «да»/ «нет». Если изначально вариантов ответов было больше двух, количество получаемой в конкретном ответе информации будет больше, чем 1 бит, если вариантов ответов меньше двух, т.е. один, то это не вопрос, а  утверждение, следовательно, получения  информации не требуется, раз неопределенности нет.

Информационная ёмкость  ячейки памяти, способной воспринимать информацию, не может быть меньше 1 бита, но количество получаемой информации может быть и меньше, чем 1 бит. Это происходит тогда, когда варианты ответов «да» и «нет» не равновероятны. Неравновероятность в свою очередь является следствием того, что некоторая предварительная (априорная) информация по этому вопросу уже имеется, полученная, допустим, на основании предыдущего жизненного опыта. Таким образом, во всех рассуждениях предыдущего абзаца следует учитывать одну очень важную оговорку: они справедливы только для равновероятного случая.

Количество информации мы будем обозначать символом I, вероятность  обозначается символом P. Напомним, что  суммарная вероятность полной группы событий равна 1.

2.Неопределенность, количество информации  и энтропия

Основоположник теории информации Клод Шеннон определил информацию, как снятую неопределенность. Точнее сказать, получение информации - необходимое  условие для снятия неопределенности. Неопределенность возникает в ситуации выбора. Задача, которая решается в  ходе снятия неопределенности - уменьшение количества рассматриваемых вариантов (уменьшение разнообразия), и в итоге  выбор одного соответствующего ситуации варианта из числа возможных. Снятие неопределенности дает возможность  принимать обоснованные решения  и действовать. В этом управляющая  роль информации.

Ситуация максимальной неопределенности предполагает наличие  нескольких равновероятных альтернатив (вариантов), т.е. ни один из вариантов  не является более предпочтительным. Причем, чем больше равновероятных вариантов наблюдается, тем больше неопределенность, тем сложнее сделать  однозначный выбор и тем больше информации требуется для этого  получить. Для N вариантов эта ситуация описывается следующим распределением вероятностей: {1/N, 1/N, … 1/N}.

Минимальная неопределенность равна 0, т.е. эта ситуация полной определенности, означающая что выбор сделан, и  вся необходимая информация получена. Распределение вероятностей для  ситуации полной определенности выглядит так: {1, 0, …0}.

Величина, характеризующая  количество неопределенности в теории информации обозначается символом H и  имеет название энтропия, точнее информационная энтропия.

Энтропия (H) - мера неопределенности, выраженная в битах. Так же энтропию можно рассматривать как меру равномерности распределения случайной  величины.

На рисунке 1. показано поведение энтропии для случая двух альтернатив, при изменении соотношения  их вероятностей (p, (1-p)).

Максимального значения энтропия достигает в данном случае тогда, когда обе вероятности  равны между собой и равны ?, нулевое значение энтропии соответствует случаям (p₀=0, p₁=1) и (p₀=1, p₁=0).

Количество информации I и энтропия H характеризуют одну и ту же ситуацию, но с качественно  противоположенных сторон. I - это  количество информации, которое требуется  для снятия неопределенности H. По определению  Леона Бриллюэна информация есть отрицательная энтропия (негэнтропия).

Когда неопределенность снята полностью, количество полученной информации I равно изначально существовавшей неопределенности H.

При частичном снятии неопределенности, полученное количество информации и оставшаяся неснятой неопределенность составляют в сумме исходную неопределенность. H_t + I_t = H.

По этой причине, формулы, которые будут представлены ниже для расчета энтропии H являются и формулами для расчета количества информации I, т.е. когда речь идет о полном снятии неопределенности, H в них может заменяться на I.

3.Формула  Шеннона

В общем случае, энтропия H и количество получаемой в результате снятия неопределенности информации I зависят от исходного количества рассматриваемых вариантов N и априорных  вероятностей реализации каждого из них P: {p₀, p₁, …p_N-1}, т.е. H=F(N, P). Расчет энтропии в этом случае производится по формуле Шеннона, предложенной им в 1948 году в статье "Математическая теория связи".

В частном случае, когда все варианты равновероятны, остается зависимость только от количества рассматриваемых вариантов, т.е. H=F(N). В этом случае формула Шеннона  значительно упрощается и совпадает  с формулой Хартли, которая впервые  была предложена американским инженером  Ральфом Хартли в 1928 году, т.е. на 20 лет  раньше.

Формула Шеннона  имеет следующий вид:

(1)

Рис. 3. Нахождение логарифма b по основанию a - это нахождение степени, в которую нужно возвести a, чтобы  получить b.

Напомним, что такое  логарифм.

Логарифм по основанию 2 называется двоичным:

log₂(8)=3 => 2³=8

log₂(10)=3,32 => 2^3,32=10

Логарифм по основанию 10 -называется десятичным:

log₁₀(100)=2 => 10²=100

Основные свойства логарифма:

1. log(1)=0, т.к. любое число в нулевой степени дает 1;

2. log(a^b)=b*log(a);

3. log(a*b)=log(a)+log(b);

4. log(a/b)=log(a)-log(b);

5. log(1/b)=0-log(b)=-log(b).

Знак минус в  формуле (1) не означает, что энтропия - отрицательная величина. Объясняется  это тем, что p_i1 по определению, а логарифм числа меньшего единицы - величина отрицательная. По свойству логарифма , поэтому эту формулу можно записать и во втором варианте, без минуса перед знаком суммы.

интерпретируется как частное количество информации, получаемое в случае реализации i-ого варианта. Энтропия в формуле Шеннона является средней характеристикой - математическим ожиданием распределения случайной величины {I₀, I_1, … I_N-1}.

Пример расчета  энтропии по формуле Шеннона. Пусть  в некотором учреждении состав работников распределяется так: ? - женщины, ? - мужчины. Тогда неопределенность, например, относительно того, кого вы встретите первым, зайдя в учреждение, будет рассчитана рядом действий, показанных в таблице 1.

Таблица 1.

Если же априори  известно, что мужчин и женщин в  учреждении поровну (два равновероятных варианта), то при расчете по той  же формуле мы должны получить неопределенность в 1 бит. Проверка этого предположения  проведена в таблице 2.

Таблица 2.

4.Формула  Хартли

Формула Хартли - частный  случай формулы Шеннона для равновероятных альтернатив.

Подставив в формулу (1) вместо p_i его (в равновероятном случае не зависящее от i) значение , получим:

,

таким образом, формула  Хартли выглядит очень просто:

(2)

Из нее явно следует, что чем больше количество альтернатив (N), тем больше неопределенность (H). Эти величины связаны в формуле (2) не линейно, а через двоичный логарифм. Логарифмирование по основанию 2 и приводит количество вариантов к единицам измерения информации - битам.

Энтропия будет  являться целым числом лишь в том  случае, если N является степенью числа 2, т.е. если N принадлежит ряду: {1, 2, 4, 8, 16, 32, 64, 128, 256, 512, 1024, 2048…}

Рис. 3. Зависимось энтропии от количества равновероятных вариантов выбора (равнозначных альтернатив).

Для решения обратных задач, когда известна неопределенность (H) или полученное в результате ее снятия количество информации (I) и нужно  определить какое количество равновероятных альтернатив соответствует возникновению  этой неопределенности, используют обратную формулу Хартли, которая выводится  в соответствии с определением логарифма  и выглядит еще проще:

(3)

Например, если известно, что в результате определения  того, что интересующий нас Коля Иванов живет на втором этаже, было получено 3 бита информации, то количество этажей в доме можно определить по формуле (3), как N=2³=8 этажей.