Yang Zijian Győző: Többnyelvű modellek és PEGASUS finomhangolása magyar nyelvű absztraktív összefoglalás feladatára.
Előnézet |
Cikk, tanulmány, mű
msznykonf_019_381-393..pdf Letöltés (325kB) | Előnézet |
Absztrakt (kivonat)
Napjaink egyik legfontosabb és legkutatottabb nyelvtechnológiai területe az absztraktív szövegösszefoglaló készítése. Mind a kutatásban, mind az iparban egyre nagyobb igény keletkezik a feladat megoldására. Az elmúlt években magyar nyelven is elindultak a kutatások ezen a területen, voltak különböző kísérletek magyar és többnyelvű előtanított neurális nyelvmodellek finomhangolásával. Jelen kutatásomban elsősorban a többnyelvű modellek finomhangolására tettem a hangsúlyt. Arra kerestem a választ, hogy a más nyelvekre, akár feladatokra előtanított modellek hogyan teljesítenek magyar nyelvre, illetve azok a többnyelvű modellek, amelyek angol vagy más nyelven a legjobb eredményt érték el absztraktív összefoglalás területén, adaptálhatóak-e magyar nyelvre. A kísérletem kiterjedt a manapság rendkívül népszerű mT5-re, a magyar nyelvi előtudással nem rendelkező mBART modellre és az M2M100 gépi fordítás feladatára előtanított 100 nyelvű neurális modellre. Az utóbbi két modell esetén a kérdés, hogy egy modell, amely nem rendelkezik magyar tudással a finomhangolás során meg tud-e tanulni magyarul megoldani egy feladatot, illetve, bár rendelkezik magyar tudással, de gépi fordításra tanított modell módosítható-e absztraktív összefoglaló generálás feladatára. Végül, de nem utolsó sorban, az angol nyelvre egyik legjobban teljesítő PEGASUS modellt finomhangoltam magyar absztraktív összefoglaló feladatra. Ezzel a kutatással kísérletet tettem egy angol nyelvű modellt magyar nyelvre adaptálni és arra kerestem a választ, hogy vajon ez lehetséges-e és van-e értelme. Eredményeim azt mutatják, hogy mindegyik modell finomhangolható és adaptálható magyar nyelvre, sőt az mT5 és az mBART esetében sikerült felülmúlni az eddigi legjobban teljesítő magyar BART modellt.
| Mű típusa: | Konferencia vagy workshop anyag |
|---|---|
| Befoglaló folyóirat/kiadvány címe: | Magyar Számítógépes Nyelvészeti Konferencia |
| Dátum: | 2023 |
| Kötet: | 19 |
| ISBN: | 978-963-306-912-7 |
| Oldalak: | pp. 381-393 |
| Nyelv: | magyar |
| Kiadás helye: | Szeged |
| Konferencia neve: | Magyar számítógépes nyelvészeti konferencia (19.) |
| Konferencia típusa: | Konferencia |
| Helyszin: | Szeged |
| Dátum: | 2023. január 26-27. |
| Befoglaló mű URL: | https://acta.bibl.u-szeged.hu/78307/ |
| Kulcsszavak: | Nyelvészet - számítógép alkalmazása |
| Megjegyzések: | Bibliogr.: p. 390-393. és a lábjegyzetekben ; összefoglalás magyar nyelven |
| Szakterület: | 01. Természettudományok 01. Természettudományok > 01.02. Számítás- és információtudomány |
| Feltöltés dátuma: | 2023. már. 16. 11:01 |
| Utolsó módosítás: | 2023. már. 16. 11:01 |
| URI: | http://acta.bibl.u-szeged.hu/id/eprint/78427 |
 |
Tétel nézet |
