Теория информации

Общая информация

Лекции: Пятница 11.50-13.20 в 220 ауд.

Практика: Пятница 13.50-15:20 в 220 ауд.

Зачёт: TBA

О курсе: изучаются свойства информации с вероятностной точки зрения. Рассматриваются вопросы сжимающего и помехоустойчивого кодирования.

[PoGu] Н. Н. Поздниченко А. С. Гуменюк. Прикладная теория информации. изд-во ОмГТУ, 2015.
[Fur] В.А. Фурсов. Лекции по теории информации. изд-во СГАУ, 2006.
[Che] С.И. Чечёта. Введение в дискретную теорию информации и кодирования. Пиксел, 2013.
[CoTh] Cover Thomas M., Thomas Joy A. Elements of information theory. Second edition, Wiley-interscience, 2006.

Дата	Тема	Практика	Домашнее задание
29.09	Тема 1. Предмет теории и понятие теории информации. Энтропия. [Лекция]	Практика №1	#2,3,4,5
6.10	Тема 2. Энтропия и ее свойства. Совместная и условная энтропия. [Лекция]	Практика №2	См. задания
20.10	Тема 3. Взаимная и условная взаимная информация. [Лекция]	Практика №3	№2
27.10	Тема 4. Дискретные источники сообщений (ДИС). [Лекция]
10.11	Тема 5. Примеры ДИС. Стационарные источники сообщений. [Лекция]	Практика №4	№1а (Задача с параметром)
24.11	Тема 6. Кодирование ДИС. [Лекция]	Практика №6