Különböző wav2vec 2.0 rétegekből nyert beágyazások használata sclerosis multiplex felismerésére

Gosztolya, Gábor and Tóth, László and Svindt, Veronika and Bóna, Judit and Hoffmann, Ildikó (2025) Különböző wav2vec 2.0 rétegekből nyert beágyazások használata sclerosis multiplex felismerésére. In: XXI. Magyar Számítógépes Nyelvészeti Konferencia. Szegedi Tudományegyetem TTIK, Informatikai Intézet, online kiadás, pp. 59-71. ISBN 9789636880347

Preview

Text 2025-mszny-sm-wav2vec-layers.pdf - Published Version Download (602kB) | Preview

Abstract

A sclerosis multiplex (SM) a központi idegrendszer krónikus gyulladásos megbetegedése, mely többek között az alanyok beszédére is hatással van. Emiatt az automatikus beszédföldolgozás relatíve egyszerû, olcsó és találkozásmentes (távoli) módot nyújthat arra, hogy követhessük a betegek beszédprodukiójának változását. Egy ilyen rendszer tanítása során problémát jelent a rendelkezésre álló beszédanyag mennyiségének és (főleg) változatosságának korlátozottsága (pl. kevés beszélő), ami miatt általában nem praktikus egyetlen (end-to-end) mély hálót alkalmazni az SM detektálására. Ugyanakkor az járható megközelítés lehet, hogy osztályozásra valamilyen hagyományosabb módszert (pl. SVM-et vagy véletlen erdőt) alkalmazunk, mély hálók beágyazásait használva jellemzőkként. Egy korszerû mély háló (pl. wav2vec 2.0) esetén kézenfekvő a konvolúciós és a finomhangolt blokkok utolsó rétegét választani, azonban a közbülső rétegek is hasznosnak bizonyulhatnak. Jelen tanulmányban azt vizsgáljuk meg, hogy a közbülső (belső) rétegekből vett beágyazások használatával javíthatunk-e az SM automatikus felismerésének pontosságán. Eredményeink alapján a 24 finomhangolt rejtett réteg mélyebben fekvő kb. egyharmada bizonyult a leghasznosabbnak, statisztikailag szignifikáns javulást is eredményezve a blokkok utolsó rejtett rétegéhez képest.

Actions (login required)

Edit Item