Отчет должен содержать:
- Цель работы.
- Записи, отражающие ход работы и полученные результаты.
- Таблицу 1.2 заполненную при выполнении п.2.2.
- Заполненные при выполнении п.2.3 таблицы, содержащие 10-ть наиболее чаще встречаемых комбинаций символов в сообщениях источника для длин символов равных две, три и четыре буквы.
- Таблицу 1.2 заполненную при выполнении п.2.4 для значения длины символа равного одному биту.
- Заполненные при выполнении п.3 таблицы 1.3, 1.4 и 1.5.
- Заполненные при выполнении п.4 таблицы для каждой реализации сообщения, при разных значениях длины символов источника.
- Заполненные при выполнении п.5 таблицы для каждой реализации сообщения, при разных значениях связности цепи Маркова.
- Значения длины файлов при использовании архиватора, величину коэффициента сжатия.
- Анализ полученных результатов и выводы.
Энтропия и ее свойства.
Взаимная информация и ее свойства.
Эргодические источники. Производительность источника при независимых символах.
Производительность марковского источника. Избыточность.
Определение количества информации по К.Шеннону.
Определите избыточность алфавита двоичного источника, выдающего независимые сообщения "0" и "1", на выходе которого вероятность появления символа "0" равна P(0) = 0,2.
При переводе русского текста на английский число букв в среднем уменьшается в 1,3 раза. При переводе того же текста на финский язык число букв возрастает примерно в 1,4 раза. Найдите соотношение энтропий данных иностранных языков к русскому и английского к финскому.