Mély neuronhálós akusztikus modellek gyors adaptációja multi-taszk tanítással

Tóth, László and Gosztolya, Gábor: Mély neuronhálós akusztikus modellek gyors adaptációja multi-taszk tanítással. Magyar Számítógépes Nyelvészeti Konferencia, (10). pp. 154-162. (2016)

[img] Cikk, tanulmány, mű
msznykonf_012_154-162.pdf

Download (170kB)

Abstract

A környezetfüggő mély neuronhálós akusztikus modellek gyors adaptációja különösen nehéz kihívás, mivel egy kis méretű adaptációs mintában a környezetfüggő állapotok többségére nincs tanítópélda. Nemrégiben egy olyan új mély neuronhálós tanítási séma bukkant fel, amely a hálózatot egyszerre tanítja környezetfüggő és környezetfüggetlen példákon. Ez az ún. multi-taszk technológia felveti annak a nagyon egyszerű adaptációs módszernek a lehetőségét, hogy az adaptáció során csak környezetfüggetlen címkéken tanítsunk. Jelen cikkben ezt a módszert próbáljuk ki, kombinálva egy KL-divergencia alapú regularizációs technikával. Kísérleteinkben a multi-taszk tanítási séma már önmagában 3%-os hibacsökkenést hoz egy híradós beszédfelismerési feladaton. A kombinált adaptációs módszert is bevetve további 2-5% hibaredukciót sikerült elérnünk az adaptációs minta méretének függvényében, ami 20- tól 100 másodpercig terjedt.

Item Type: Article
Event Title: Magyar Számítógépes Nyelvészeti Konferencia (12.) (2016) (Szeged)
Journal or Publication Title: Magyar Számítógépes Nyelvészeti Konferencia
Date: 2016
Volume: 10
Page Range: pp. 154-162
ISBN: 978-963-306-450-4
Uncontrolled Keywords: Nyelvészet - számítógép alkalmazása
Additional Information: Bibliogr.: p. 161-162. ; összefoglalás magyar nyelven
Date Deposited: 2019. Jul. 01. 10:52
Last Modified: 2019. Jul. 01. 10:52
URI: http://acta.bibl.u-szeged.hu/id/eprint/58971

Actions (login required)

View Item View Item