p align="left">Выберем из ансамбля А произвольную комбинацию из пяти символов и закодируем их полученным кодом Фано: А9А3А5А7А4 110111111101111111110011110. Потенциальный минимум будем искать по формуле (2.12) лекции: ; Так как код является двоичным, тогда основание кода N = 2. Следовательно: . Тогда потенциальный минимум будет равен энтропии источника: . Найдем энтропию источника, пользуясь мерой Шеннона: ; Рассчитаем среднее количество символов, приходящихся на одно сообщение: , где М - объем алфавита кода (М = 2); Pi - вероятность появления события; n - количество символов в коде. |
P1 = 0,088 | n1 = 3 | | P2 = 0,065 | n2 = 4 | | P3 = 0,035 | n3 = 8 | | P4 = 0,062 | n4 = 5 | | P5 = 0,006 | n5 = 8 | | P6 = 0,059 | n6 = 6 | | P7 = 0,097 | n7 = 3 | | P8 = 0,3 | n8 = 1 | | P9 = 0,068 | n9 = 3 | | P10 = 0,044 | n10 = 7 | | P11 = 0,054 | n11 = 7 | | P12 = 0,122 | n12 = 2 | | |
Согласно (2.12.а) лекции эффективность кода находим, как: . Ответ: потенциальный минимум ; среднее количество символов, приходящихся на одно сообщение ; эффективность кода . 3.2 Задача № 3.54 Закодировать кодом Фано, с объемом алфавита М=5, ансамбль |
А1 | А2 | А3 | А4 | А5 | А6 | А7 | А8 | А9 | А10 | А11 | А12 | | 0,082 | 0,122 | 0,503 | 0,04 | 0,012 | 0,002 | 0,005 | 0,034 | 0,124 | 0,006 | 0,0395 | 0,0305 | | |
Закодировать произвольную комбинацию, состоящую из пяти символов ансамбля А; Определить потенциальный минимум среднего количества символов кода, приходящихся на одно сообщение ансамбля А; Определить среднее количество символов разработанного кода Фано, приходящихся на одно сообщение из ансамбля А; Рассчитать эффективность разработанного кода. Решение: Для удобства расположим вероятности появления сообщений в порядке убывания: |
А3 | 0,503 | 0 | | А9 | 0,124 | 10 | | А2 | 0,122 | 210 | | A1 | 0,082 | 3210 | | А4 | 0,04 | 43210 | | А11 | 0,0395 | 443210 | | А8 | 0,034 | 4443210 | | А12 | 0,0305 | 44443210 | | А5 | 0,012 | 44444321 | | А10 | 0,006 | 44444432 | | А7 | 0,005 | 44444443 | | А6 | 0,002 | 44444444 | | |
Выберем из ансамбля А произвольную комбинацию из пяти символов и закодируем их полученным кодом Фано: А1А2А3А4А5 321021004321044444321 Потенциальный минимум будем искать по формуле (2.12) лекции: ; Так как код является четверичным, тогда основание кода N = 5. Следовательно: . Найдем энтропию источника, пользуясь мерой Шеннона: ; Тогда потенциальный минимум . Рассчитаем среднее количество символов, приходящихся на одно сообщение: , где М - объем алфавита кода (М = 5); Pi - вероятность появления события; n - количество символов в коде. |
P1 = 0,82 | n1 = 4 | | P2 = 0,122 | n2 = 3 | | P3 = 0,503 | n3 = 1 | | P4 = 0,004 | n4 = 5 | | P5 = 0,012 | n5 = 8 | | P6 = 0,002 | n6 = 8 | | P7 = 0,005 | n7 = 8 | | P8 = 0,034 | n8 = 7 | | P9 = 0,124 | n9 = 2 | | P10 = 0,006 | n10 = 8 | | P11 = 0,0395 | n11 = 6 | | P12 = 0,0305 | n12 = 8 | | | Согласно (2.12.а) лекции эффективность кода находим, как: . Ответ: потенциальный минимум ; среднее количество символов, приходящихся на одно сообщение ; эффективность кода . 3.3 Задача № 3.84 Закодировать двоичным кодом Хаффмана ансамбль сообщений |
А1 | А2 | А3 | А4 | А5 | А6 | А7 | А8 | А9 | А10 | А11 | А12 | | 0,082 | 0,122 | 0,503 | 0,04 | 0,012 | 0,002 | 0,005 | 0,034 | 0,124 | 0,006 | 0,0395 | 0,0305 | | |
Закодировать произвольную комбинацию, состоящую из пяти символов ансамбля А; Определить потенциальный минимум среднего количества символов кода, приходящихся на одно сообщение ансамбля А; Определить среднее количество символов разработанного кода Хаффмана, приходящихся на одно сообщение из ансамбля А; Рассчитать эффективность разработанного кода. Решение: Для удобства закодирования расположим вероятности появления сообщений в порядке убывания. Две последние вероятности объединяем в одну вспомогательную букву, которой приписывается суммарная вероятность. Вероятности, не учитывающиеся в объединении, и суммарная вероятность снова расположим в порядке убывания. Полученный ряд вероятностей записываем в таблицу и две последние вновь объединяем. Процесс будем повторять до последней вспомогательной буквы, с вероятностью, равной единице. |
А3 | 0,503 | 0,503 | 0,503 | 0,503 | 0,503 | 0,503 | 0,503 | 0,503 | 0,503 | 0,503 | 0,503 | 1 | | А9 | 0,124 | 0,124 | 0,124 | 0,124 | 0,124 | 0,124 | 0,124 | 0,1555 | 0,2175 | 0,2795 | 0,497 | | | А2 | 0,122 | 0,122 | 0,122 | 0,122 | 0,122 | 0,122 | 0,122 | 0,124 | 0,1555 | 0,2175 | | | | A1 | 0,082 | 0,082 | 0,082 | 0,082 | 0,082 | 0,082 | 0,0955 | 0,122 | 0,124 | | | | | А4 | 0,04 | 0,04 | 0,04 | 0,04 | 0,0555 | 0,0735 | 0,082 | 0,0955 | | | | | | А11 | 0,0395 | 0,0395 | 0,0395 | 0,0395 | 0,04 | 0,0555 | 0,0735 | | | | | | | А8 | 0,034 | 0,034 | 0,034 | 0,034 | 0,0395 | 0,04 | | | | | | | | А12 | 0,0305 | 0,0305 | 0,0305 | 0,0305 | 0,034 | | | | | | | | | А5 | 0,012 | 0,012 | 0,013 | 0,025 | | | | | | | | | | А10 | 0,006 | 0,007 | 0,012 | | | | | | | | | | | А7 | 0,005 | 0,006 | | | | | | | | | | | | А6 | 0,002 | | | | | | | | | | | | | |
Затем строится кодовое дерево, в процессе которого осуществляется кодирование: верхняя точка дерева равна единице; из нее направляется две ветви, причем, ветви с большей вероятностью приписывается значение «1», а с меньшей - «0». Такое последовательное ветвление продолжается до тех пор, пока не добираются вероятности каждой буквы.
Страницы: 1, 2, 3
|