Pintér Ádám and Tóth László and Gosztolya Gábor: Mély neuronhálós akusztikus modellek súlyinicializálásának vizsgálata.
Preview |
Cikk, tanulmány, mű
msznykonf_016_313-321.pdf Download (411kB) | Preview |
Abstract
Az automatikus beszédfelismerés területén az akusztikus modellezésben gyakorlatilag egyeduralkodókká váltak a mély neurális hálók. Az irodalomban számos megoldást találunk arra, hogy hogyan érdemes beállítani a különböző paramétereket a DNN akusztikus modellek tanítása során, azonban általában kevés figyelmet szentelnek annak, hogy a hálók súlyait hogyan érdemes inicializálni. Eközben a gépi tanulási irodalomban ez egy igen aktív terület; a közelmúltban több stratégia is napvilágot látott a DNN kezdősúlyainak beállítására. Jelen munkánkban három ilyen eljárást tesztelünk mély neurális hálós akusztikus modellekben, három különböző aktivációs függvényt (szigmoid, ReLU és szoftplusz) használva. Eredményeink alapján mindenképp érdemes valamilyen speciális súlyinicializálási eljárást alkalmaznunk, ugyanakkor a három vizsgált stratégia (Glorot, He és Edge of Chaos) használatával elért fonémaszintű hibaarányok között nem találtunk szignifikáns különbséget.
| Item Type: | Conference or Workshop Item |
|---|---|
| Heading title: | Poszter, laptopos bemutató II. |
| Journal or Publication Title: | Magyar Számítógépes Nyelvészeti Konferencia |
| Date: | 2020 |
| Volume: | 16 |
| ISBN: | 978-963-306-719-2 |
| Page Range: | pp. 313-321 |
| Event Title: | Magyar Számítógépes Nyelvészeti Konferencia (16.) (2020) (Szeged) |
| Related URLs: | http://acta.bibl.u-szeged.hu/67637/ |
| Uncontrolled Keywords: | Beszédfelismerés - automatikus, Nyelvészet - számítógép alkalmazása |
| Additional Information: | Bibliogr.: p. 320-321. ; összefoglalás magyar nyelven |
| Date Deposited: | 2020. May. 05. 11:15 |
| Last Modified: | 2022. Nov. 08. 11:49 |
| URI: | http://acta.bibl.u-szeged.hu/id/eprint/67661 |
Actions (login required)
 |
View Item |
