Теория информации

Общая информация

Лектор: Никита Колесников

Практика: Никита Колесников

Лекции: Вторник 12.00-13.30 в 205 ауд.

Практика: Вторник 13.40-15:10 в 205 ауд.

Экзамен: Вторник 15.06.2021 12:00 в 217 ауд., вопросы к экзамену

О курсе: изучаются свойства информации с вероятностной точки зрения. Рассматриваются вопросы сжимающего и помехоустойчивого кодирования.

Литература

Расписание

Дата Тема Практика Домашнее задание
12.01 Тема 1. Предмет теории и понятие теории информации. Энтропия. [Лекция] Практика №1 #5, [Che] #1.8
26.01 Тема 2. Свойства энтропии. Совместная и условная энропия. [Лекция] Практика №2 См. задания
02.02 Тема 3. Взаимная и условная взаимная информация. [Лекция] Практика №3 См. задания
09.02 Тема 4. Дискретные источники сообщений. [Лекция]
16.02 Тема 5. Стационарные источники сообщений. [Лекция] [Che] #2.4 (б, в), 2.6, 2.7 [Che] #2.4 (д)
02.03 Тема 6. Кодирование дискретных источников сообщений. [Лекция] Практика №6 См. задания
16.03 Тема 7. Оптимальное кодирование. Коды Фано и Хаффмана. [Лекция]
23.03 Тема 8. Алгоритмы для построения оптимальных кодов. [Лекция] Практика №8 См. задания
06.04 Тема 9. Дискретные каналы связи. [Лекция] [Che] #4.1 (б, в) [Che] #4.1 (т), 4.2
13.04 Тема 10. Симметричные каналы. [Лекция] [Che] #4.3 [Che] #4.7
27.04 Тема 11. Теоремы кодирования дискретных каналов без памяти. [Лекция] [Che] #5.1, 5.2
18.05 Тема 12. Теоремы кодирования дискретных каналов без памяти.
25.05 Тема 13. Задачи. См. задания
Вопросы к экзамену