Subject

Обработка на природните јазици

Course Title

Обработка на природните јазици
Natural language understanding and generation

Code

F23L3W142

Study Programme

—

Organizer of the study programme (unit, institute, department or division)

Faculty of Computer Science and Engineering

Degree level (first, second, third cycle)

Прв циклус

Academic year / semester

5 / Зимски

Number of ECTS credits

Teacher

Ивица Димитровски, Соња Гиевска

Prerequisites for enrolling in the course

Алгоритми и податочни структури или Примена на алгоритми и податочни структури

10.

Objectives of the course programme (competences)

Целта на предметот е студентитеда се стекнат со основните теоретски и практични знаења за алгоритмите за обработка на природните јазици. Студентите ќе стекнат знаења за најновите техники на машинско учење со фокус на длабоки невронски мрежи наменети за разбирање и генерирање на текст.

11.

Course content

1. Вовед. Основна обработка на природните јазици.
2. Векторска репрезентација на зборови
3. Моделирање на природните јазици со длабоки невронски мрежи
4. Преглед на длабоки невронски архтектури. Извлекување знаење од текстуални податоци
5. Машински превод
6. Генерирање на текст
7. Трансфер на учење. Претходно обучени модели
8. Системи за одговор на прашања и сумирање на текст
9. Збогатена репрезентација и збогатени модели на природните јазици (интегрирање на бази на знаење, граф на знаење)
10. Преиспитување на моделите од аспект на етички и морални норми
11. Системи за водење дијалог
12. Преиспитување и анализа на моделите за разбирање и генерирање на текст (толкување на наученото)

12.

Learning methods

Предавања поддржани со презентации преку слајдови, интерактивни предавања, вежби (користење на опрема и софтверски пакети), тимска работа, пример случаи, поканети гости предавачи, самостојна изработка и одбрана на проектна задача и семинарска работа, учење во електронско опкружување (форуми, консултации).

13.

Total available time

6 ECTS x 30 hours = 180 hours

14.

Distribution of available time

30 + 45 + 15 + 15 + 75 = 180 часа

15.

Forms of teaching activities

15.1.	Lectures - theoretical instruction	30 hours
15.2.	Exercises (laboratory, auditory), seminars, teamwork	45 hours

16.

Other forms of activities

16.1.	Project assignments	15 часови
16.2.	Independent assignments	15 часови
16.3.	Home study	75 часови

17.

Assessment method

17.1.	Tests	10 бодови
17.2.	Seminar paper / project (presentation: written and oral)	15 бодови
17.3.	Activities and learning	10 бодови
17.4.	Final exam	70 бодови

18.

Grading criteria (points / grade)

up to 50 points	5 (five) (F)
from 51 to 60 points	6 (six) (E)
from 61 to 70 points	7 (seven) (D)
from 71 to 80 points	8 (eight) (C)
from 81 to 90 points	9 (nine) (B)
from 91 to 100 points	10 (ten) (A)

19.

Requirement for obtaining a signature and taking the final exam

completed activities 15.1 and 15.2

20.

Language of instruction

Macedonian and English

21.

Method for monitoring the quality of teaching

internal evaluation and survey mechanism

22.

Literature

22.1.	Required literature 1. Jurafsky & Martin \| Speech and Language Processing \| Prentice Hall \| 2021 2. Ian Goodfellow, Joshua Bengio, Aaron Courvile \| Deep Learning \| MIT Press \| 2016
22.2.	Additional literature No. Author Title Publisher Year