Трансформери-архітектури у задачі класифікації тексту

Тип публікації :
Бакалаврська робота
Дата випуску :
2022
Автор(и) :
Жолобіцький Владислав Олександрович
Мова основного тексту :
ua
eKNUTSHIR URL :
Цитування :
[APA 7] Жолобіцький, В. О. (2022). Трансформери-архітектури у задачі класифікації тексту. [Бакалаврська робота, Київський національний університет імені Тараса Шевченка]. eKNUTSHIR. https://ir.library.knu.ua/handle/123456789/7273
[ДСТУ] Жолобіцький В. О. Трансформери-архітектури у задачі класифікації тексту : кваліфікаційна робота бакалавра : 12 Інформаційні технології. Київ, 2022. 44 с. URL: https://ir.library.knu.ua/handle/123456789/7273 (дата звернення: 17.07.2026).
Під час виконання роботи було розглянуто моделі на основі трансформаторів, які в даний час виробляють найкращі результати у програмах NLP. Розглянуті моделі на основі трансформаторів включали GPT, модель Transformer-XL, міжмовні моделі (XLM) та двонаправлені подання кодерів від трансформаторів (BERT). Було розглянуто сильні сторони, і слабкі сторони різних моделей трансформаторів. Було розроблено програми на основі BERT та RoBERTa для виявлення, що є кращим. Основним критерієм можна назвати точність і з нею вони показали майже однаковий результат.
Галузі знань та спеціальності :
12 Інформаційні технології
122 Комп’ютерні науки
Файл(и) :
Вантажиться...
Ескіз
Формат :

Adobe PDF

Розмір :

1.06 MB

Контрольна сума :

(MD5):74cfd4678be65cdf945b7128920933ab

Creative Commons Attribution-NonCommercial 4.0 International
Якщо не вказано інше, ця робота розповсюджується на умовах ліцензії Creative Commons Attribution-NonCommercial 4.0 International