Синоптики подсчитали, что в течении 100 лет 10 марта было 34 дождливых дня, снег выпал 28 раз и 38 дней было без осадков. Определить количество информации в сообщениях, что 10 марта текущего года:
Будет снег
Будет дождь
Осадков не будет

Для решения этой задачи необходимо рассчитать количество информации, передаваемое сообщением о каждом из возможных состояний погоды. Для этого используется формула Шеннона для количества информации:

где $P$ — вероятность события, а $I$ — количество информации в битах.

1. Вычисляем вероятности событий

У нас есть следующие данные о погоде за 100 лет:

• Дождливых дней: 34
• Дней со снегом: 28
• Дней без осадков: 38

Общее количество дней: $34 + 28 + 38 = 100$.

Вероятности:

• Вероятность дождя ($P_{\text{дождь}}$): $\frac{34}{100} = 0.34$.
• Вероятность снега ($P_{\text{снег}}$): $\frac{28}{100} = 0.28$.
• Вероятность отсутствия осадков ($P_{\text{без осадков}}$): $\frac{38}{100} = 0.38$.

2. Рассчитываем количество информации

Используем формулу $I = -\log_2 P$. Логарифм берется по основанию 2.

Информация о дожде:

Информация о снеге:

Информация об отсутствии осадков:

3. Ответ

Количество информации в сообщениях о погоде 10 марта текущего года составляет:

• Если будет дождь: 1.556 бита.
• Если будет снег: 1.836 бита.
• Если осадков не будет: 1.395 бита.