1.За контрольную работу в классе из 30 человек выставлено 6 пятерок, 15 четверок, 8 троек и 1 двойка. Сколько битов информации несет сообщение о том, что Василий Пупкин получил четверку? 2.В ящике лежат 20 шаров, из них 10 черных, 5 белых, 4 желтых и 1 красный. Сколько битов информации несет сообщение о том, что достали белый шар?

Для того чтобы ответить на вопросы о количестве битов информации, несущей сообщения о результатах, можно использовать концепцию информации в теории вероятностей, в частности формулу для расчета количества битов, которое содержит сообщение:

где $I$ — это количество битов информации, а $P$ — вероятность события.

1. Количество битов информации о том, что Василий Пупкин получил четверку

В классе 30 учеников, и распределение оценок следующее:

• 6 пятерок
• 15 четверок
• 8 троек
• 1 двойка

Теперь определим вероятность того, что Василий Пупкин получил четверку:

Теперь можем подставить это значение в формулу для расчета количества битов информации:

Используя свойства логарифмов, знаем, что:

Таким образом, сообщение о том, что Василий Пупкин получил четверку, несет 1 бит информации.

2. Количество битов информации о том, что достали белый шар

В ящике лежат 20 шаров:

• 10 черных
• 5 белых
• 4 желтых
• 1 красный

Теперь определим вероятность того, что достали белый шар:

Теперь подставим это значение в формулу для расчета количества битов информации:

Зная, что:

Мы можем сказать, что сообщение о том, что достали белый шар, несет 2 бита информации.

Резюме

1. Сообщение о том, что Василий Пупкин получил четверку, несет 1 бит информации.
2. Сообщение о том, что достали белый шар, несет 2 бита информации.