Subject

Теорија на информации со дигитални комуникации

1. Наслов на наставниот предмет Теорија на информации со дигитални комуникации
Information theory and digital communication
2. Код F23L2S164
3. Студиска програма
4. Организатор на студиската програма (единица, односно институт, катедра, оддел) Faculty of Computer Science and Engineering
5. Степен (прв, втор, трет циклус) First Cycle
6. Академска година / семестар 4 / Летен
7. Број на ЕКТС кредити 6
8. Наставник Александра Поповска Митровиќ, Верица Бакева
9. Предуслови за запишување на предметот Веројатност и статистика или Математика 3 или Бизнис и статистика
10. Цели на предметната програма (компетенции) Студентите ќе бидат запознаени со квантитативната теорија на информации и нејзината примена во надежни и ефикасни комуникациски системи. Дополнително ќе бидат запознаени со математичкиот модел на комунникацискиот систем.
11. Содржина на предметната програма 1. Дефиниција на случајни процеси. Карактеристики: математичко очекување, почетен момент од ред 1-1. Корелациона функција.
2. Својства на корелациона функција. Видови на стационарност на случајни процеси.
3. Ентропија на случајна променлива. Ентропија на случаен вектор. релативна ентропија. Информација. Верижни правила.
4. Својства на ентропија и информација.
5. Вериги на Марков: дефиниција, својства. стационарност.
6. Рата на ентропија
7. Компресија на податоци: дефиниција на код, несингуларен код, код со својство на префикс, Крафтово неравенство.
8. Оптимални кодови. Хуфманов код. Код на Шенон-Фано-Елијас. Аритметички кодови.
9. Капацитет на канал. Дефиниција. Определување на капацитет на познати канали.
10. Диференцијална ентропија. Гаусов канал.
11. Идеална шема за декодирање за бинарен симетричен канал.
12. Линеарни кодови. Кодови кои откриваат и поправаат грешки.
12. Методи на учење Предавања поддржани со презентации преку слајдови, интерактивни предавања, вежби (користење на опрема и софтверски пакети), тимска работа, пример случаи, поканети гости предавачи, самостојна изработка и одбрана на проектна задача и семинарска работа, учење во електронско опкружување (форуми, консултации).
13. Вкупен расположив фонд на време 6 ЕКТС x 30 часа = 180 часа
14. Распределба на расположивото време 30 + 45 + 15 + 15 + 75 = 180 часа
15. Форми на наставните активности
15.1. Предавања - теоретска настава 30 часови
15.2. Вежби (лабораториски, аудиториски), семинари, тимска работа 45 часови
16. Други форми на активности
16.1. Проектни задачи 15 часови
16.2. Самостојни задачи 15 часови
16.3. Домашно учење 75 часови
17. Начин на оценување
17.1. Тестови 0 бодови
17.2. Семинарска работа / проект ( презентација: писмена и усна) 15 бодови
17.3. Активности и учење 10 бодови
17.4. Завршен испит 90 бодови
18. Критериуми за оценување (бодови/ оценка)
до 50 бода5 (пет) (F)
од 51 до 60 бода6 (шест) (E)
од 61 до 70 бода7 (седум) (D)
од 71 до 80 бода8 (осум) (C)
од 81 до 90 бода9 (девет) (B)
од 91 до 100 бода10 (десет) (A)
19. Услов за потпис и полагање на завршен испит 15.1 и 15.2
20. Јазик на кој се изведува наставата македонски и англиски
21. Метод на следење на квалитетот на наставата механизам на интерна евалуација и анкети
22. Literature
22.1. Задолжителна литература
1. T.M.Cover | Elements of Information Theory | John Wiley&Sons.Inc. | 1991
2. Ž. Pauše | Uvod u teoriju informacije | Školska knjiga, Zagreb
3. D.J.C. MacKay | Information Theory, Inference, and Learning Algorithms | Cambridge University Press | 2003
22.2. Дополнителна литература
Ред.бр. Автор Наслов Издавач Година