Mély neuronhálós akusztikus modellek gyors adaptációja multi-taszk tanítással

Tóth László and Gosztolya Gábor: Mély neuronhálós akusztikus modellek gyors adaptációja multi-taszk tanítással.

[thumbnail of msznykonf_012_154-162.pdf]
Preview
Cikk, tanulmány, mű
msznykonf_012_154-162.pdf

Download (170kB) | Preview

Abstract

A környezetfüggő mély neuronhálós akusztikus modellek gyors adaptációja különösen nehéz kihívás, mivel egy kis méretű adaptációs mintában a környezetfüggő állapotok többségére nincs tanítópélda. Nemrégiben egy olyan új mély neuronhálós tanítási séma bukkant fel, amely a hálózatot egyszerre tanítja környezetfüggő és környezetfüggetlen példákon. Ez az ún. multi-taszk technológia felveti annak a nagyon egyszerű adaptációs módszernek a lehetőségét, hogy az adaptáció során csak környezetfüggetlen címkéken tanítsunk. Jelen cikkben ezt a módszert próbáljuk ki, kombinálva egy KL-divergencia alapú regularizációs technikával. Kísérleteinkben a multi-taszk tanítási séma már önmagában 3%-os hibacsökkenést hoz egy híradós beszédfelismerési feladaton. A kombinált adaptációs módszert is bevetve további 2-5% hibaredukciót sikerült elérnünk az adaptációs minta méretének függvényében, ami 20- tól 100 másodpercig terjedt.

Item Type: Conference or Workshop Item
Journal or Publication Title: Magyar Számítógépes Nyelvészeti Konferencia
Date: 2016
Volume: 12
ISBN: 978-963-306-450-4
Page Range: pp. 154-162
Event Title: Magyar Számítógépes Nyelvészeti Konferencia (12.) (2016) (Szeged)
Related URLs: http://acta.bibl.u-szeged.hu/58553/
Uncontrolled Keywords: Nyelvészet - számítógép alkalmazása
Additional Information: Bibliogr.: p. 161-162. ; összefoglalás magyar nyelven
Date Deposited: 2019. Jul. 01. 10:52
Last Modified: 2022. Nov. 08. 11:49
URI: http://acta.bibl.u-szeged.hu/id/eprint/58971

Actions (login required)

View Item View Item