Vidács, László and Jelasity, Márk and Tóth, László and Hegedűs, Péter and Ferenc, Rudolf (2020) A mesterséges intelligencia néhány biztonsági vetülete. SCIENTIA ET SECURITAS, 1 (1). pp. 29-34. ISSN 2732-2688 (online)
|
Text
Vidacsetal.Amestersegesintelligencianehanybiztonsagi_vetulete2.pdf Download (449kB) | Preview |
Abstract
A mély mesterséges neuronhálók elterjedése az ipari alkalmazásokban évekkel azok megbízhatóságával, értelmezhetőségével, és biztonságával kapcsolatos szakterületek fejlődését megelőzően történt. Az egyik, gyakorlatban is jelentős területen, a képfelismerésben például a megvalósult megoldások szinte már emberi teljesítményre képesek, de ezzel együtt célzott zajjal ezek a rendszerek félrevezethetők, megzavarhatók. Jelen kéziratban ismertetünk néhány tipikus biztonsági problémát, valamint rámutatunk arra, hogy a hagyományos szoftverfejlesztés területén alkalmazott minőségbiztosítási módszerekkel rokon megoldásokra szükség van az MI-re épülő rendszerek fejlesztésében, akár a mesterséges neuronhálók biztonságát, akár az MI rendszerek hagyományos komponenseinek fejlesztését tartjuk szem előtt.
| Item Type: | Article |
|---|---|
| Uncontrolled Keywords: | Software engineering; biztonság; Szoftverfejlesztés; Artificial neural networks; Deep learning; security; Mélytanulás; mesterséges neuronhálók; |
| Subjects: | Q Science / természettudomány > QA Mathematics / matematika > QA75 Electronic computers. Computer science / számítástechnika, számítógéptudomány |
| SWORD Depositor: | MTMT SWORD |
| Depositing User: | MTMT SWORD |
| Date Deposited: | 14 Jan 2021 13:49 |
| Last Modified: | 21 Jan 2021 09:56 |
| URI: | http://real.mtak.hu/id/eprint/119579 |
Actions (login required)
 |
Edit Item |
