Теория информации

Общая информация

Лектор: Никита Колесников

Практика: Никита Колесников

Лекции: Вторник 12.00-13.30 в 217 ауд.

Практика: Вторник 13.40-15:10 в 217 ауд.

Экзамен: TBA

О курсе: изучаются свойства информации с вероятностной точки зрения. Рассматриваются вопросы сжимающего и помехоустойчивого кодирования.

Литература

Расписание

Дата Тема Практика Домашнее задание
12.01 Тема 1. Предмет теории и понятие теории информации. Энтропия. [Лекция] Практика №1 #5, [Che] #1.8
26.01 Тема 2. Свойства энтропии. Совместная и условная энропия. [Лекция] Практика №2 См. задания
02.02 Тема 3. Взаимная и условная взаимная информация. [Лекция] Практика №3 См. задания
09.02 Тема 4. Дискретные источники сообщений. [Лекция]
16.02 Тема 5. Стационарные источники сообщений. [Лекция] [Che] #2.4 (б, в), 2.6, 2.7 [Che] #2.4 (д)
02.03 Тема 6. Кодирование дискретных источников сообщений. [Лекция] Практика №6 См. задания
16.03 Тема 7. Оптимальное кодирование. Коды Фано и Хаффмана. [Лекция]
23.03 Тема 8. Алгоритмы для построения оптимальных кодов. [Лекция] Практика №8 См. задания