Измерение информации. Задача 2-22

Алфавит некоторого языка состоит из 7 символов, которые кодируются минимально возможным количеством бит. Оцените информационный объем сообщения в битах длиной в 21 символ.

Ответ
63
Решение

Для кодирования 7 символов требуется: log27 ≈ 3 бита. Объем всего сообщения: 3 ⋅ 21 = 63 бита.