Сколько бит информации несёт сообщение о том, что поезд прибывает на один из 8 путей, если

Ответы на вопрос

Отвечает Лебедев Павел.

Рассматриваем информацию как снятие неопределённости (в смысле Шеннона). До получения сообщения мы не знаем, на какой из путей прибудет поезд.

1) Модель неопределённости

Есть 8 возможных путей:

\{1,2,3,4,5,6,7,8\}

Сообщение «поезд прибывает на один из 8 путей» в данном контексте означает: сообщение сообщает, какой именно путь из этих 8 выбран.

Обычно предполагают, что заранее нет предпочтений и все варианты равновероятны:

p = \frac{1}{8}

2) Определение количества информации

Количество информации в сообщении о конкретном исходе с вероятностью $p$ равно:

I = -\log_2 p

Подставляем $p=\frac{1}{8}$ :

I = -\log_2\left(\frac{1}{8}\right)

Используем свойство логарифма:

\log_2\left(\frac{1}{8}\right)= -\log_2(8)

Тогда:

I = -\left(-\log_2(8)\right)=\log_2(8)

Поскольку $8 = 2^3$ ,

\log_2(8) = \log_2(2^3) = 3

3) Ответ и смысл

I = 3 \text{ бита}

Интуитивно это означает: чтобы однозначно указать один вариант из 8, нужно 3 двоичных выбора (например, «левая/правая половина», потом четверть, потом конкретный путь), потому что:

2^3 = 8

Итог: сообщение о том, на какой из 8 путей прибывает поезд (при равновероятных путях), несёт 3 бита информации как снятую неопределённость.

Ответы на вопрос

1) Модель неопределённости

2) Определение количества информации

3) Ответ и смысл

Похожие вопросы

Топ вопросов за вчера в категории Информатика

Последние заданные вопросы в категории Информатика