Измерение информации Алфавитный подход



Дата17.02.2013
Размер66.8 Kb.
ТипДокументы
Измерение информации

Алфавитный подход

Алфавитный подход позволят определить количество информации, заключенной в тексте.

Основные понятия:

Алфавит – это множество символов, используемых при записи текста.

Мощность (размер) алфавита (N) – это полное количество символов в алфавите.

Информационный вес символа (i)– количество информации, которое несет один символ алфавита.

Количество информации в текстовом сообщении (I) равно сумме информационных весов всех символов, составляющих текст.

Рабочие формулы:

N = 2i

где N – мощность алфавита,

i – информационный вес одного символа


I = K*i

где I – количество информации в текстовом сообщении (информационный объем текста),

K – количество символов в текстовом сообщении,

i – информационный вес одного символа


Примеры алфавитов:

Д
Информационный вес одного символа двухсимвольного алфавита приняли за 1 бит.
воичный
. Мощность N = 2, информационный вес одного символа i = 1, т. к. 2 = 21 (N = 2i )
К
Информационный вес одного символа компьютерного алфавита приняли за 1 байт (8 бит = 1 байт).
омпьютерный
. Мощность N = 256, информационный вес одного символа i = 8, т. к. 256 = 28 (N = 2i )
Русский алфавит. Мощность N = 55 (33 буквы + 10 цифр + 11 знаков препинания + пробел), информационный вес одного символа i = 6, т. к. 32 = 25 а 64 = 26 (N = 2i ). Взяли с избытком.

Знаки препинания ( ) . , ; : ! ? « » -


1 байт = 8 бит

1 Кбайт = 210 байт = 1024 байта

1 Мбайт = 220 байт = 1024*1024 байта

1 Гбайт = 230 байт = 1024*1024*1024 байта


Пример решения задачи
1. Текст составлен с использованием алфавита мощностью 64 символа и содержит 100 символов. Каков информационный объем текста?
Решение
Мощность алфавита N = 64, количество символов в тексте K = 100, I - ?

N = 2i откуда i = 6 бит, т. к. 64 = 26

I = K*i откуда I = 100 * 6 = 600 бит = 75 байт

Ответ: информационный объем текста 75 байт
2.
Информационный объем текста, подготовленного с помощью компьютера, равен 3,5 Кбайт. Сколько символов содержит этот текст?

3. Книга, набранная с помощью компьютера, содержит 150 страниц; на каждой странице – 40 строк, в каждой строке – 60 символов. Каков объем информации в книге?
4. Алфавит племени Мульти состоит из 8 букв. Какое количество информации несет одна буква этого алфавита?
5. Сообщение, записанное буквами 64-х символьного алфавита, содержит 20 символов. Какой объем информации оно несет?
6. Племя Мульти имеет 32-х символьный алфавит. Племя Пульти имеет 64-х символьный алфавит. Вожди племен обменялись письмами. Письмо племени Мульти содержало 80 символов, а письмо племени Пульти – 70 символов. Сравните объемы информации, содержащейся в письмах.
7. Информационное сообщение объемом 1,5 Кбайта содержит 3072 символа. Сколько символов содержит алфавит, при помощи которого было записано это сообщение?
8. Объем сообщения, содержащего 2048 символов, составил 1/512 часть Мбайта. Каков размер алфавита, с помощью которого записано сообщение?
9. Сколько килобайтов составляет сообщение, содержащее 12288 битов?
10. Сколько килобайтов составит сообщение из 384 символов 16-ти символьного алфавита?
11. Для записи текста использовался 256-ти символьный алфавит. Каждая страница содержит 30 строк по 70 символов в строке. Какой объем информации содержат 5 страниц текста?
12. Сообщение занимает 3 страницы по 25 строк. В каждой строке записано по 60 символов. Сколько символов в использованном алфавите, если все сообщение содержит 1125 байтов?
13. Два сообщения содержат одинаковое количество символов. Количество информации в первом тексте в 1,5 раза больше, чем во втором. Сколько символов содержат алфавиты, с помощью которых записаны сообщения, если известно, что число символов в каждом алфавите не превышает 10 и на каждый символ приходится целое число битов?
Измерение информации и вероятность

Содержательный подход

При содержательном подходе к измерению информации количество информации связывается с содержанием (смыслом) полученного человеком сообщения.

Сообщение содержит информацию для человека, если заключенные в нем сведения являются для этого человека новыми и понятными и, следовательно, пополняют его знания.

Основные понятия:

Вероятность того, что какое-то событие произойдет - (p)

Общее количество возможных результатов события (неопределенность знаний) - (N)

Количество интересующих нас результатов события - (K)

Количество информации в сообщении о том, что произошло какое-то событие - (i)

Рабочие формулы




где p – вероятность, что событие произойдет

K – количество интересующих нас результатов события,

N – общее количество возможных результатов события



где p – вероятность, что событие произойдет

i - количество информации в сообщении о том, что произошло какое-то событие
x = log2 N формула Хартли

Примеры

I В коробке имеется 50 шаров. Из них 40 белых и 10 черных. Вытаскиваются шары.

  1. Какова вероятность вытаскивания на удачу белого шара?

  2. Какова вероятность вытаскивания на удачу черного шара?

  3. Какое количество информации содержится в сообщении о том, что вытащен белый шар?

  4. Какое количество информации содержится в сообщении о том, что вытащен белый шар?

Решение:

1) p = K/N K = 40, N = 40+10=50 p=40/50=0,8

2) p = K/N K = 10, N = 40+10=50 p=10/50=0,2

3) 2i = 1/p p=0,8 2i = 1/0,8 = 1,25 i = 0,32193 бит

4) 2i = 1/p p=0,2 2i = 1/0,2 = 5 i = 2,32193 бит

II В пруду живут 8000 карасей, 2000 щук и 40000 пескарей. Ловится рыба.

Сколько информации содержится в сообщении, что поймана щука?

Решение:

2i = 1/p

p = K/N p = 2000/(8000+2000+40000) = 0,04

2i = 1/0,04 2i = 25 i = 4,64386 бит

Ответ: i = 4,64386 бит

Особый случай

Бросается монета.

1) Какова вероятность того, что выпадет орел?

2) Какова вероятность того, что выпадет решка?

Решение:

1) p = K/N K = 1, N = 1+1=2 p=1/2=0,5

1) p = K/N K = 1, N = 1+1=2 p=1/2=0,5

Вывод: выпадение орла или решки – это равновероятностные события.
3) Какое количество информации содержится в сообщении, что выпала решка?

Решение:

3) 2i = 1/p p=0,5 2i = 1/0,5 = 2 i = 1 бит

Вывод:


Сообщение, уменьшающее неопределенность знаний человека в два раза, несет для него 1 бит информации.



Задачи

1. В корзине лежат 8 черных и 24 белых шаров. Сколько информации несет сообщение о том, что достали черный шар?
2. В корзине лежат 32 клубка шерсти. Среди них - 4 красных. Сколько информации несет сообщение о том, что достали клубок красной шерсти?
3. В коробке 64 цветных карандаша. Сообщение о том, что достали белый карандаш, несет 4 бита информации. Сколько белых карандашей было в корзине?
4. В классе 30 человек. За контрольную работу по математике получено 6 пятерок, 15 четверок 8 троек и 1 двойка. Какое количество информации в сообщении, что Иванов получил двойку?


Количество информации в сообщении об одном из N равновероятных событий (x = log2 N)


N

x

N

x

N

x

N

x

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

0,00000

1,00000

1,58496

2,00000

2,32193

2,58496

2,80735

3,00000

3,16993

3,32193

3,45943

3,58496

3,70044

3,80735

3,90689

4,00000

17

18

19

20

21

22

23

24

25

26

27

28

29

30

31

32

4,08746

4,16993

4,24793

4,32193

4,39232

4,45943

4,52356

4,58496

4,64386

4,70044

4,75489

4,80735

4,85798

4,90689

4,95420

5,00000

33

34

35

36

37

38

39

40

41

42

43

44

45

46

47

48

5,04439

5,08746

5,12928

5,16993

5,20945

5,24793

5,28540

5,32193

5,35755

5,39232

5,42626

5,45943

5,49185

5,52356

5,55459

5,58496

49

50

51

52

53

54

55

56

57

58

59

60

61

62

63

64

5,61471

5,64368

5,67243

5,70044

5,72792

5,75489

5,78136

5,80735

5,83289

5,85798

5,88264

5,90689

5,93074

5,95420

5,97728

6,00000

Похожие:

Измерение информации Алфавитный подход iconПонятие информации. Виды информации, её свойства. Информационные процессы в природе, обществе, технике (с примерами) 3
Измерение количества информации. Алфавитный (технический) и вероятностный (содержательный) подходы к измерению информации 6
Измерение информации Алфавитный подход iconКоличество информации как мера уменьшения неопределенности знаний. Вероятностный подход. Алфавитный подход к измерению количества информации. Единицы измерения информации
Человек получает информацию от органов чувств, обрабатывает её с помощью мышления и хранит в памяти. Полученная информация, обрабатываясь...
Измерение информации Алфавитный подход iconБилет 2 Измерение информации: содержательный и алфавитный подходы. Единицы измерения информации
Определить понятие "количество информации" довольно сложно. В решении этой проблемы существует три подхода
Измерение информации Алфавитный подход iconАлфавитный подход к измерению информации
Количество информации, содержащееся в символьном сообщении, вычисляется по формуле
Измерение информации Алфавитный подход iconЗадачи {}ктеме }«Измерение }информации. Содержательный и алфавитный подход»
Скорость передачи данных через соединение равна 12800бит/с. Через данное соединение передают файл }}размером625 Кбайт. Определите...
Измерение информации Алфавитный подход iconИзмерение информации Рассмотрим два подхода к измерению информации – содержательный (вероятностный) и символьный (алфавитный) Содержательный (вероятностный) подход
Из курса физики мы знаем такие понятия, как вещество, энергия. Знаем, какие величины служат для их измерения (масса граммы, количество...
Измерение информации Алфавитный подход iconИзмерение информации. Вероятностный подход к измерению количества информации. Единицы измерения информации
Информация сведения об объектах и явлениях окружающей среды, их параметрах, свойствах и состоянии, которые уменьшают имеющуюся о...
Измерение информации Алфавитный подход iconБилет №2 Измерение информации: содержательный и алфавитный подходы. Единицы измерения информации. Создание и редактирование текстового документа (исправление ошибок, удаление или вставка текстовых фрагментов)
Создание и редактирование текстового документа (исправление ошибок, удаление или вставка текстовых фрагментов), в том числе использование...
Измерение информации Алфавитный подход iconКонспект для ученика, пк, программа- электронный калькулятор Wise Calkulator. Тип урока: изучение нового материала, урок-решения задач, подготовки к контрольной работе
Количество информации как мера уменьшения неопределенности знаний. Методы измерения количества информации: вероятностный (содержательный),...
Измерение информации Алфавитный подход iconФрактальный подход к сжатию информации
Поддубный А. П., Юрков Н. К., Якимов А. Н. Фрактальный подход к сжатию информации. // Проблемы информатики в образовании, управлении,...
Разместите кнопку на своём сайте:
ru.convdocs.org


База данных защищена авторским правом ©ru.convdocs.org 2016
обратиться к администрации
ru.convdocs.org