Билет 2 Измерение информации: содержательный и алфавитный подходы. Единицы измерения информации



Скачать 55.21 Kb.
Дата02.05.2013
Размер55.21 Kb.
ТипДокументы
Билет 2

  1. Измерение информации: содержательный и алфавитный подходы. Единицы измерения информации.

Определить понятие "количество информации" довольно сложно. В решении этой проблемы существует три подхода.

Подходы, применяемые к измерению ИНФОРМАЦИИ.

Подход 1 - неизмеряемость информации в быту (информация как новизна) означает, что количество информации в сообщении зависит от того, насколько ново это сообщение для получателя.

Подход 2 - вероятностный заключается в том, что получение информации (ее увеличение) одновременно означает увеличение знания, что, в свою очередь, означает уменьшение незнания или информационной неопределенности. Количество информации зависит от вероятности ее получения того или иного сообщения. Причем, чем больше вероятность события, тем меньшее количество информации содержится в сообщении о таком событии. Иными словами, количество информации в сообщении о каком-то событии зависит от вероятности свершения данного события.

Подход 3 – алфавитный (технический), или объемный основан на подсчете числа символов в сообщении, т.е. учитывает только длину сообщения, но не его содержание.

Исторически 2-ой и 3-ий подходы возникли почти одновременно. В конце 1940 г. один из основоположников кибернетики американский математик Клод Шеннон развил вероятностный подход к измерению количества информации, а работы по созданию ЭВМ привели к "объемному подходу".

Вероятностный подход

Равновероятные события - это события, которые не имеют преимущества друг перед другом, т.е. вероятность их появления не зависит от условий проведения эксперимента (выпадение орла или решки, выпадение любой из шести граней кубика).

Неравновероятные события - это события, вероятность появления которых зависит от условий проведения эксперимента (зависимость прогноза погода от времени года).

ВЕРОЯТНОСТЬ какого - либо случайного события P определяется как отношение числа случаев К, соответствующих наступлению ожидаемого события, к общему числу возможных случаев N, если случаи равновозможны (равновероятны):

P = K / N

Проявление вероятностного смысла информации в физике.

Рассмотрим закрытый сосуд, в котором находятся только 5 молекул газа.

В определенный момент времени мы вдвигаем в сосуд заслонку.

Возникают два вопроса:

1. Какие случаи распределения молекул в сосуде скорее всего реализуются?

2. Какой информацией о них мы будем обладать?

Изобразим все возможные распределения молекул по объему сосуда.



Рис. 1 Рис. 2 Рис. 3 Рис. 4 Рис. 5 Рис. 6

Вывод:

Скорее всего реализуются состояния, изображенные на рис.
3 и 4, соответствующие практически равномерному распределению молекул по обеим половинам сосуда. Для них приблизительно Р = 2 / 6 = 1 / 3.

Менее вероятны состояния, изображены на остальных рисунках. Для них

Р = 1 / 6.

С точки же зрения информации равномерное распределение молекул не представляет особого интереса, т. к. подобное состояние уже хорошо известно и всесторонне описано. Например, известно, что давление газа на стенки обеих половин сосуда будет одинаково, его так же можно определить по соответствующим формулам. Если же говорить о неравномерном распределении молекул (рис. 1, 2, 5 и 6), то это состояние, наоборот, представляет особый интерес, т.к. практически не встречается в природе, и его реализация даст возможность получить новую информацию. Например, можно будет ответить на вопрос: как часто его можно наблюдать реально (т.е. какова вероятность реализации на опыте)? Или во сколько раз будут отличаться давления в обеих половинах сосуда.

Алфавитный подход

Любое сообщение на любом языке состоит из последовательности символов-букв, цифр, знаков.

Если информация представлена в виде дискретного сообщения, то логично считать количеством информации его длину, то есть общее число знаков в сообщении. Но длина сообщения зависит не только от содержащейся в нем информации. На нее влияет мощность алфавита используемого языка. Чем меньше знаков в используемом алфавите, тем длиннее сообщение. Так, например, в алфавите азбуки Морзе всего три знака (точка, тире, пауза), поэтому для кодирования каждой русской или латинской буквы нужно использовать несколько знаков, и текст, закодированный по Морзе, будет намного длиннее, чем при обычной записи.

Пример: Сигнал SOS: 3 знака в латинском алфавите;

11 знаков в алфавите Морзе: ··· пауза – – – пауза ···.

Для упорядочивания измерений информационный объем сообщений принято измерять в битах. Объем информации, необходимый для запоминания одного из двух символов -0 или 1, называется 1 бит (англ. binary digit- двоичная единица). 1 бит- минимально возможный объем информации. Он соответствует промежутку времени, в течение которого по проводнику передается или не передается электрический сигнал, участку поверхности магнитного диска, частицы которого намагничены в том или другом направлении, участку поверхности оптического диска, который отражает или не отражает лазерный луч, одному триггеру, находящемуся в одном из двух возможных состояний.

Итак, если у нас есть один бит, то с его помощью мы можем закодировать один из двух символов- либо 0, либо 1.

Если же есть 2 бита, то из них можно составить один из четырех вариантов кодов: 00 , 01 , 10 , 11 .

Если есть 3 бита- один из восьми: 000 , 001 , 010 , 100 , 110 , 101 , 011 , 111 .

Закономерность очевидна:

1 бит- 2 варианта,

2 бита- 4 варианта,

3 бита- 8 вариантов;

Продолжая дальше, получим:

4 бита- 16 вариантов,

5 бит- 32 варианта,

6 бит- 64 варианта,

7 бит- 128 вариантов,

8 бит- 256 вариантов,

9 бит- 512 вариантов,

10 бит- 1024 варианта,

....................

N бит - 2 в степени N вариантов.

Один бит соответствует одному знаку двоичного алфавита. Итак, чтобы измерить длину сообщения, его нужно представить в двоичном виде и подсчитать количество двоичных знаков – битов. При этом совсем не обязательно уметь интерпретировать сообщения.

Пример: Пусть сообщение в двоичном алфавите выглядит следующим образом: 000100010001. Мы не знаем, какая информация была заложена в этом сообщении, но можем легко подсчитать его длину – 12 двоичных знаков, следовательно, его информационный объем равен 12-ти битам.

Такой способ измерения количества информации называется алфавитным подходом. При этом измеряется не содержание информации с точки зрения его новизны и полезности, а размер несущего информацию сообщения. Мы уже убедились, что при алфавитном подходе к определению количества информации одни и те же сведения, закодированные по-разному, будут иметь различный информационный объем. Сообщения одинаковой длины могут нести как совершенно бесполезные сведения, так и нужную информацию.

Пример: Применяя алфавитный подход, получаем, что информационный объем слов “фыырпбьощ” и “компьютер” совершенно одинаков, а слов “ученик” и “учащийся” – различен.

При кодировании букв в компьютере используется либо алфавит ASCII (American Standard Code for Information Interchange — американский стандартный код обмена информацией), состоящий из 28=256 знаков, либо алфавит Unicode, мощность которого 216 = 65536. В слове SOS три буквы, следовательно, его информационный объем 3·8=24 или 3·16=48 бит, в зависимости от используемой кодировки.

Алфавитный подход удобен при подсчете количества информации, хранимого, передаваемого и обрабатываемого техническими устройствами. Действительно, устройствам нет дела до содержательной стороны сообщений. Компьютеры, принтеры, модемы работают не с самой информацией а с ее представлением в виде сообщений. Оценить информационные результаты их работы как полезные или бесполезные может только человек.

Единицы измерения информации

Для удобства, помимо бита используются более крупные единицы измерения количества информации. Вот соотношения между ними:



То, что отношения между единицами измерения кратны степеням 2, объясняется большим теоретическим и практическим значением двоичного кодирования в информатике.

Похожие:

Билет 2 Измерение информации: содержательный и алфавитный подходы. Единицы измерения информации iconКонспект для ученика, пк, программа- электронный калькулятор Wise Calkulator. Тип урока: изучение нового материала, урок-решения задач, подготовки к контрольной работе
Количество информации как мера уменьшения неопределенности знаний. Методы измерения количества информации: вероятностный (содержательный),...
Билет 2 Измерение информации: содержательный и алфавитный подходы. Единицы измерения информации iconПонятие информации. Виды информации, её свойства. Информационные процессы в природе, обществе, технике (с примерами) 3
Измерение количества информации. Алфавитный (технический) и вероятностный (содержательный) подходы к измерению информации 6
Билет 2 Измерение информации: содержательный и алфавитный подходы. Единицы измерения информации iconБилет №2 Измерение информации: содержательный и алфавитный подходы. Единицы измерения информации. Создание и редактирование текстового документа (исправление ошибок, удаление или вставка текстовых фрагментов)
Создание и редактирование текстового документа (исправление ошибок, удаление или вставка текстовых фрагментов), в том числе использование...
Билет 2 Измерение информации: содержательный и алфавитный подходы. Единицы измерения информации iconИзмерение информации Рассмотрим два подхода к измерению информации – содержательный (вероятностный) и символьный (алфавитный) Содержательный (вероятностный) подход
Из курса физики мы знаем такие понятия, как вещество, энергия. Знаем, какие величины служат для их измерения (масса граммы, количество...
Билет 2 Измерение информации: содержательный и алфавитный подходы. Единицы измерения информации iconКоличество информации как мера уменьшения неопределенности знаний. Вероятностный подход. Алфавитный подход к измерению количества информации. Единицы измерения информации
Человек получает информацию от органов чувств, обрабатывает её с помощью мышления и хранит в памяти. Полученная информация, обрабатываясь...
Билет 2 Измерение информации: содержательный и алфавитный подходы. Единицы измерения информации iconИзмерение информации. Вероятностный подход к измерению количества информации. Единицы измерения информации
Информация сведения об объектах и явлениях окружающей среды, их параметрах, свойствах и состоянии, которые уменьшают имеющуюся о...
Билет 2 Измерение информации: содержательный и алфавитный подходы. Единицы измерения информации iconИзмерение информации Алфавитный подход
Алфавитный подход позволят определить количество информации, заключенной в тексте
Билет 2 Измерение информации: содержательный и алфавитный подходы. Единицы измерения информации icon1. информационные процессы и системы информация и ее кодирование
Единицы измерения и методы измерения количества информации. Скорость передачи информации
Билет 2 Измерение информации: содержательный и алфавитный подходы. Единицы измерения информации iconПредставление информации
Язык как способ представления информации. Кодирование. Двоичная система счисления. Количество и единицы измерения информации
Билет 2 Измерение информации: содержательный и алфавитный подходы. Единицы измерения информации iconЗадачи {}ктеме }«Измерение }информации. Содержательный и алфавитный подход»
Скорость передачи данных через соединение равна 12800бит/с. Через данное соединение передают файл }}размером625 Кбайт. Определите...
Разместите кнопку на своём сайте:
ru.convdocs.org


База данных защищена авторским правом ©ru.convdocs.org 2016
обратиться к администрации
ru.convdocs.org