«Теория информации экзамен»

<div><ol> <li>Вычислить энтропию последовательности букв ФИО. Для оценки вероятностей символов использовать частоты вхождения букв в ФИО.</li> <li> <p>По заданной матрице совместных вероятностей появления сообщений зависимых источников информации и вычислить величины H(X) ,H(Y) ,H(X/Y) ,H(Y/X) , H(X,Y) .</p> <pre><code>Y</code></pre> <p>X y1 y2 y3 x1 0.15 0.05 0 x2 0 0.6 0.05 x3 0.05 0 0.1</p> </li> <li>Построить равномерный двоичный код с наименьшей длиной кодового слова для букв, входящих в ФИО.</li> <li>Последовательность букв ФИО преобразовать следующим образом: буквы от ‘А’ до ‘З’ заменить символом а, буквы от ‘И’ до ‘Т’ заменить символом b, остальные буквы – символом c. Закодировать полученную последовательность словарным методом Лемпела-Зива (размер словаря 8). Декодировать закодированную последовательность.</li> <li>Закодировать последовательность букв ФИО адаптивным кодом «стопка книг».</li> </ol></div>