Magyar nyelvű utasításkövető korpusz építése Stanford Alpaca promptok fordításával és lokalizálásával

Yang Zijian Győző; Szlávik Szilárd; Ligeti-Nagy Noémi: Magyar nyelvű utasításkövető korpusz építése Stanford Alpaca promptok fordításával és lokalizálásával.

Előnézet

Cikk, tanulmány, mű msznykonf_020_243-255.pdf Letöltés (619kB) | Előnézet

Absztrakt (kivonat)

A ChatGPT sikerét annak köszönheti, hogy képes emberi kérdésekre, utasításokra jól megfogalmazott, releváns válaszokat adni. Megjelenése előtt a kutatók már felismerték a lehetőséget, hogy a nagy nyelvi modellekből értékes információkat lehet kinyerni. A promptprogramozás segítségével ezek a modellek képesek különböző nyelvtechnológiai feladatokat magas pontossággal megoldani. Azonban egy lényeges elem még hiányzott: hogy a modell természetes emberi nyelven, szabadon megfogalmazott kérdésekre és utasításokra válaszoljon, és emellett végezze el a nyelvtechnológiai feladatokat. A ChatGPT sikere bizonyította, hogy a modell finomhangolásával elérhető az utasításkövető viselkedés. Azonban az utasításkövető finomhangoláshoz nélkülözhetetlen a speciális tanítóadat, amely ilyen jellegű promptokat tartalmaz. Kutatásunk során létrehoztuk – tudomásunk szerint – az első magyar nyelvű utasításkövető finomhangoló korpuszt. E célból a Stanford Alpaca korpusz egy részét fordítottuk le magyarra. A fordítási folyamat során nem magyar specifikus kérdések kerültek elő, amelyekhez magyar kultúrakörhöz illő promptokat alkottunk. Az így létrejött korpusz 2000 lefordított és 100 lokalizált promptot tartalmaz. Az elkészült korpusz segítségével betanítottunk egy utasításkövető nagy nyelvi modellt a magyar nyelvű PULI GPT-3SX modell felhasználásával. Az elkészült korpuszunkat kutatás számára szabadon elérhetővé tettük.

Mű típusa:	Konferencia vagy workshop anyag
Rovatcím:	Poszter, laptopos bemutató
Befoglaló folyóirat/kiadvány címe:	Magyar Számítógépes Nyelvészeti Konferencia
Dátum:	2024
Kötet:	20
ISBN:	978-963-306-973-8
Oldalak:	pp. 243-255
Nyelv:	magyar
Kiadó:	Szegedi Tudományegyetem TTIK, Informatikai Intézet
Kiadás helye:	Szeged
Konferencia neve:	Magyar számítógépes nyelvészeti konferencia (20.)
Konferencia típusa:	Konferencia
Helyszin:	Szeged
Dátum:	2024. január 25-26.
Befoglaló mű URL:	https://acta.bibl.u-szeged.hu/88747/
Kulcsszavak:	Korpuszépítés, Nyelvészet - számítógép alkalmazása
Megjegyzések:	Bibliogr.: p. 253-255. és a lábjegyzetekben ; ill. ; összefoglalás magyar nyelven
Szakterület:	01. Természettudományok 01. Természettudományok > 01.02. Számítás- és információtudomány 06. Bölcsészettudományok 06. Bölcsészettudományok > 06.02. Nyelvek és irodalom
Feltöltés dátuma:	2025. nov. 12. 11:12
Utolsó módosítás:	2025. nov. 12. 11:12
URI:	http://acta.bibl.u-szeged.hu/id/eprint/88766

Bővebben:

Tétel nézet