Yang Zijian Győző; Dodé Réka; Ferenczi Gergő; Hatvani Péter; Héja Enikő; Lengyel Mariann; Ligeti-Nagy Noémi; Madarász Gábor; Sárossy Bence; Varga Kristóf; Varga Tamás; Váradi Tamás: PULI LlumiX modell : egy folytatólagosan előtanított nagy nyelvi modell.
Előnézet |
Cikk, tanulmány, mű
msznykonf_021_153-167.pdf Letöltés (193kB) | Előnézet |
Absztrakt (kivonat)
Az utóbbi hónapokban a nagyméretű nyelvi modellek fejlesztése felgyorsult, ahogy egyre több technológiai vállalat törekszik különböző nyelvi feldolgozási feladatok megoldására alkalmas modellek létrehozására. Ebben a cikkben bemutatunk egy magyar nyelvre optimalizált, Llama-2 alapú modellt, amely folytatólagos előtanítást és utasításkövető finomhangolást alkalmaz a magyar nyelvi sajátosságok figyelembevételével. A modell finomhangolásához egy 66 000 angol és 15 000 magyar promptot tartalmazó adatbázist használtunk, így a modell képes lett magyar nyelvű utasítások pontos követésére is. Az így létrejött modell különböző hazai benchmarkokon – köztük a HuCOLA, HuSST és HuRTE teszteken – kimagasló teljesítményt nyújtott, azero shot tesztek során a HuCOLA teszten 66,98%-os, a HuSST teszten 70,06%-os, míg a HuRTE teszten 74,54%-os pontosságot ért el, ami felülmúlja a korábbi modelleket. A kvantitatív eredmények mellett kvalitatív elemzéseket is végeztünk a modell teljesítményének mélyebb megértése érdekében. A modell magas szintű kontextuskezelő képességét például egy hosszú szövegkörnyezetben végzett keresési feladattal értékeltük, míg a stílusérzékenységét különböző nyelvi regiszterekben tett próbákkal vizsgáltuk. Eredményeink alátámasztják, hogy a transzfertanulás révén a modell jelentős tudást képes átvenni más nyelvekből is, javítva a magyar nyelvű teljesítményét.
| Mű típusa: | Konferencia vagy workshop anyag |
|---|---|
| Rovatcím: | Nyelvmodellek |
| Befoglaló folyóirat/kiadvány címe: | Magyar Számítógépes Nyelvészeti Konferencia |
| Dátum: | 2025 |
| Kötet: | 21 |
| ISBN: | 978-963-688-034-7 |
| Oldalak: | pp. 153-167 |
| Nyelv: | magyar |
| Kiadó: | Szegedi Tudományegyetem TTIK, Informatikai Intézet |
| Kiadás helye: | Szeged |
| Konferencia neve: | Magyar számítógépes nyelvészeti konferencia (21.) |
| Konferencia típusa: | Konferencia |
| Helyszin: | Szeged |
| Dátum: | 2025. február 6-7. |
| Befoglaló mű URL: | https://acta.bibl.u-szeged.hu/88748/ |
| Kulcsszavak: | PULI modell, Nyelvi modell, Nyelvészet - számítógép alkalmazása |
| Megjegyzések: | Bibliogr.: p. 165-167. és a lábjegyzetekben ; ill. ; összefoglalás magyar nyelven |
| Szakterület: | 01. Természettudományok 01. Természettudományok > 01.02. Számítás- és információtudomány 06. Bölcsészettudományok 06. Bölcsészettudományok > 06.02. Nyelvek és irodalom |
| Feltöltés dátuma: | 2025. nov. 12. 13:25 |
| Utolsó módosítás: | 2025. nov. 12. 13:25 |
| URI: | http://acta.bibl.u-szeged.hu/id/eprint/88779 |
 |
Tétel nézet |
