Mély neuronhálós akusztikus modellek gyors adaptációja multi-taszk tanítással

Tóth László; Gosztolya Gábor: Mély neuronhálós akusztikus modellek gyors adaptációja multi-taszk tanítással.

Előnézet

Cikk, tanulmány, mű msznykonf_012_154-162.pdf Letöltés (170kB) | Előnézet

Absztrakt (kivonat)

A környezetfüggő mély neuronhálós akusztikus modellek gyors adaptációja különösen nehéz kihívás, mivel egy kis méretű adaptációs mintában a környezetfüggő állapotok többségére nincs tanítópélda. Nemrégiben egy olyan új mély neuronhálós tanítási séma bukkant fel, amely a hálózatot egyszerre tanítja környezetfüggő és környezetfüggetlen példákon. Ez az ún. multi-taszk technológia felveti annak a nagyon egyszerű adaptációs módszernek a lehetőségét, hogy az adaptáció során csak környezetfüggetlen címkéken tanítsunk. Jelen cikkben ezt a módszert próbáljuk ki, kombinálva egy KL-divergencia alapú regularizációs technikával. Kísérleteinkben a multi-taszk tanítási séma már önmagában 3%-os hibacsökkenést hoz egy híradós beszédfelismerési feladaton. A kombinált adaptációs módszert is bevetve további 2-5% hibaredukciót sikerült elérnünk az adaptációs minta méretének függvényében, ami 20- tól 100 másodpercig terjedt.

Mű típusa:	Konferencia vagy workshop anyag
Befoglaló folyóirat/kiadvány címe:	Magyar Számítógépes Nyelvészeti Konferencia
Dátum:	2016
Kötet:	12
ISBN:	978-963-306-450-4
Oldalak:	pp. 154-162
Konferencia neve:	Magyar Számítógépes Nyelvészeti Konferencia (12.) (2016) (Szeged)
Befoglaló mű URL:	http://acta.bibl.u-szeged.hu/58553/
Kulcsszavak:	Nyelvészet - számítógép alkalmazása
Megjegyzések:	Bibliogr.: p. 161-162. ; összefoglalás magyar nyelven
Feltöltés dátuma:	2019. júl. 01. 10:52
Utolsó módosítás:	2022. nov. 08. 11:49
URI:	http://acta.bibl.u-szeged.hu/id/eprint/58971

Bővebben:

Tétel nézet