Автор: Пользователь скрыл имя, 06 Декабря 2011 в 22:48, лабораторная работа
Цель работы: познакомиться с основными подходами к измерению информации и использовать их при решении задач.
Порядок выполнения работы
1. Познакомиться с системой единиц измерения количества информации.
2. Рассмотреть содержательный и алфавитный подходы к измерению информации.
3. Закрепить полученные навыки при решении задач.
Цель
работы: познакомиться с основными
подходами к измерению информации и использовать
их при решении задач.
Порядок выполнения работы
1. Познакомиться с системой единиц измерения количества информации.
2.
Рассмотреть содержательный и
алфавитный подходы к
3. Закрепить полученные навыки при решении задач.
Минимальную порцию информации о каком-либо свойстве объекта принято называть битом (binary digit – двоичная цифра). Бит – единица измерения информации, представляющая собой выбор из двух равновозможных вариантов. Бит представляет собой обозначение одного двоичного разряда, способного, в зависимости от сделанного выбора, принимать значение 1 или 0.
Байт – единица измерения информации, представляющая собой последовательность состоящую из 8 бит.
1 байт = 23 бит = 8 бит.
Каждый бит имеет определенное место внутри байта, которое называется разрядом. Разряды принято нумеровать справа налево. Например, третий бит в байте на самом деле находится в пятом разряде байта.
Для
измерения больших объемов
|
Задание №1
Заполнить
пропуски значениями, в соответствии
с предложенными единицами
|
Новые сведения о свойствах объектов окружающего нас мира содержат информацию для человека и, следовательно, пополняют его знания. При содержательном подходе возможна качественная оценка полученной информации, например, насколько она для нас полезна, важна или наоборот – вредна.
Неопределенность знания о некотором событии – это количество возможных результатов события (бросания монеты, кубика; вытаскивания жребия и пр.). Уменьшение неопределенности знания человека в 2 раза, несет для него 1 бит информации.
Количество информации (I) для событий с различными вероятностями определяется по формуле К.Шеннона:
|
где N — количество возможных событий; — вероятности отдельных событий.
Если события равновероятны, то количество информации (I) определяется по формуле Р.Хартли:
|
где N
– количество равновероятных событий.
Пример 1.
После
экзамена по информатике объявляют
оценки («5», «4», «3» или «2»). Какое
количество информации будет нести сообщение
об оценке студента А, который выучил лишь
половину билетов, и сообщение об оценке
учащегося Б, который выучил все билеты.
Решение. Опыт показывает, что для учащегося А все четыре оценки (события) равновероятны и тогда количество информации, которое несет сообщение об оценке, можно вычислить по формуле Хартли:
I = Iog 2 4 = 2 бита.
На
основании опыта также
I
= - (1/2·log2l/2+1/4·log2l/4+1/8·
(log2l/2=-1, log2l/4=-2, log2l/8=-3)
Пример 2.
В
барабане для розыгрыша лотереи
находится 32 шара. Сколько информации
содержит сообщение том, что выпал
номер 17?
Решение.
Поскольку вытаскивание любого из 32 шаров
равновероятно, то количество информации
об одном выпавшем номере находится из
уравнения: 2I =32. Так как 32=25,
то I=5 бит. (Ответ не зависит от того,
какой именно выпал номер).
Задание №2
|
Алфавит – множество символов, используемых при записи текста. Полное количество символов в алфавите называется размером (мощностью) алфавита.
Алфавитный подход позволяет определить количество информации в тексте. Данный подход является объективным, т.е. он не зависит от человека, воспринимающего текст.
Если допустить, что все символы алфавита встречаются в тексте с одинаковой частотой (равновероятно), то мощность (N) алфавита вычисляется по формуле:
|
где i – информационный вес одного символа в используемом алфавите.
Если весь текст состоит из К символов, то при алфавитном подходе размер содержащейся в нем информации равен:
|
Пример 3.
Текст
содержит 150 страниц; на каждой странице
– 40 строк, в каждой строке – 60 символов
(для записи текста использовался 256-символьный
алфавит). Каков объем информации в Мбайтах
содержится в документе?
Решение. Мощность алфавита равна 256 символов, поэтому один символ несет 1 байт информации. Значит, страница содержит 40·60 = 2400 байт информации. Объем всей информации в документе (в разных единицах):
2400·150 = 360 000 байт.
360000/1024 = 351,6 Кбайт.
351,5625/1024
= 0,3 Мбайт.
Пример 4.
Какова
мощность алфавита, с помощью которого
записано сообщение, содержащее 2048 символов
(страница текста), если его объем составляет
1,25 Кбайта?
Решение. Переведем информационное сообщение в биты:
1,25*1024*8=10240 бит.
Определим количество бит на один символ:
10240:2048=5 бит.
По формуле для мощности алфавита определим количество символов в алфавите: