RAG módszerek implementálásának kihívásai egy célorientált chatbot rendszer kontextusában

Csáki Csaba; Vándor Péter: RAG módszerek implementálásának kihívásai egy célorientált chatbot rendszer kontextusában.

Előnézet

Cikk, tanulmány, mű msznykonf_021_097-110.pdf Letöltés (472kB) | Előnézet

Absztrakt (kivonat)

A Retrieval Augmented Generation (RAG) megoldás fókuszált tartalmú adatok és szövegek bevonásával javítja a nagy nyelvi modellek (LLM) által generált válaszok minőségét, és kiküszöbölheti hibáikat. A RAG egyre népszerűbb alkalmazása azonban felszínre hozott számos technikai kihívást, melyek megoldása nem mindig egyértelmű: a bemeneti adatforrások összetettek lehetnek, a válaszok pontossága felé magasak az elvárások, illetve meg kell tudni mondani hol található a forrásban a legjobb válasz egy kérdésre. Ezekre a feladatokra számos lehetséges alternatív technika közül lehet választani. A kutatás során egy célorientált chatbot fejlesztése keretében vizsgáltuk a RAG folyamat egyes lépéseit, és kipróbáltunk többféle szöveg beviteli (OCR, LLM vision), szöveg feldarabolási (rekurzív, ágensalapú) és válasz keresési módszert (hasonlósági vektor, BM25). Új feldolgozási módszereket vezettünk be a fentiek kombinálásával, melyek javítják az eredmény minőségét. A cikkben rámutatunk, hogy akár nyílt modellekre is támaszkodhatunk, mivel egyes esetekben a szabályalapú, standard feldolgozóknál pontosabb, strukturáltabb eredményt adnak, és zárt társaik a tartalmi szűrések miatt néhány esetben nem végezték el a feladatot.

Mű típusa:	Konferencia vagy workshop anyag
Rovatcím:	Beszédtechnológia, kommunikáció
Befoglaló folyóirat/kiadvány címe:	Magyar Számítógépes Nyelvészeti Konferencia
Dátum:	2025
Kötet:	21
ISBN:	978-963-688-034-7
Oldalak:	pp. 97-110
Nyelv:	magyar
Kiadó:	Szegedi Tudományegyetem TTIK, Informatikai Intézet
Kiadás helye:	Szeged
Konferencia neve:	Magyar számítógépes nyelvészeti konferencia (21.)
Konferencia típusa:	Konferencia
Helyszin:	Szeged
Dátum:	2025. február 6-7.
Befoglaló mű URL:	https://acta.bibl.u-szeged.hu/88748/
Kulcsszavak:	Nyelvészet - számítógép alkalmazása
Megjegyzések:	Bibliogr.: p. 109-110. ; ill. ; összefoglalás magyar nyelven
Szakterület:	01. Természettudományok 01. Természettudományok > 01.02. Számítás- és információtudomány 06. Bölcsészettudományok 06. Bölcsészettudományok > 06.02. Nyelvek és irodalom
Feltöltés dátuma:	2025. nov. 12. 12:46
Utolsó módosítás:	2025. nov. 12. 12:46
URI:	http://acta.bibl.u-szeged.hu/id/eprint/88775

Bővebben:

Tétel nézet