Теория информации

Общая информация

Лектор: Никита Колесников

Практика: Никита Колесников

Лекции: Вторник 11.50-13.20 в 227 ауд.

Практика: Вторник 13.50-15.20 в 227 ауд.

Зачет: Вторник 21.12.2021 18.50-20.20 в 227 ауд.

О курсе: изучаются свойства информации с вероятностной точки зрения. Рассматриваются вопросы сжимающего и помехоустойчивого кодирования.

Литература

Расписание

Дата Тема Практика Домашнее задание
7.09 Тема 1. Предмет теории и понятие теории информации. Энтропия. [Лекция] Практика №1 #5, [Che] #1.8
14.09 Тема 2. Свойства энтропии. Совместная и условная энропия. [Лекция] Практика №2 См. задания
21.09 Условная энтропия. Задачи.
28.09 Тема 3. Взаимная информация и условная взаимная информация. [Лекция] Практика №2 #2,5, Домашнее задание из практики №2
5.10 Тема 4. Дискретные источники сообщений (ДИС). [Лекция] Практика №3
12.10 Тема 5. Стационарные источники сообщений. [Лекция] Практика №4
2.11 Тема 6. Кодирование дискретных источников сообщений. [Лекция] Практика №5
9.11 Тема 7. Оптимальное кодирование. Коды Фано и Хаффмана. [Лекция] Практика №6
16.11 Тема 8. Алгоритм Хаффмана. [Лекция] Практика №6
23.11 Тема 9. Дискретные каналы связи. [Лекция] [Che] #4.1 (б, в) [Che] #4.1 (т), 4.2