Automatic punctuation restoration with BERT models

Nagy Attila and Bial Bence and Ács Judit: Automatic punctuation restoration with BERT models.

[thumbnail of msznykonf_017_063-073.pdf]
Cikk, tanulmány, mű

Download (730kB) | Preview


We present an approach for automatic punctuation restoration with BERT models for English and Hungarian. For English, we conduct our experiments on Ted Talks, a commonly used benchmark for punctuation restoration, while for Hungarian we evaluate our models on the Szeged Treebank dataset. Our best models achieve a macro-averaged F1-score of 79.8 in English and 82.2 in Hungarian. Our code is publicly available.

Item Type: Conference or Workshop Item
Heading title: Transzkripció, transzliteráció
Journal or Publication Title: Magyar Számítógépes Nyelvészeti Konferencia
Date: 2021
Volume: 17
ISBN: 978-963-306-781-9
Page Range: pp. 63-73
Language: English
Event Title: Magyar számítógépes nyelvészeti konferencia (17.) (2021) (Szeged)
Related URLs:
Uncontrolled Keywords: Nyelvészet - számítógép alkalmazása
Additional Information: Bibliogr.: p. 71-73. és a lábjegyzetekben ; összefoglalás angol nyelven
Subjects: 01. Natural sciences
01. Natural sciences > 01.02. Computer and information sciences
06. Humanities
06. Humanities > 06.02. Languages and Literature
Date Deposited: 2021. Sep. 28. 10:50
Last Modified: 2022. Nov. 08. 11:49

Actions (login required)

View Item View Item