REAL

A mesterséges intelligencia néhány biztonsági vetülete

Vidács, László and Jelasity, Márk and Tóth, László and Hegedűs, Péter and Ferenc, Rudolf (2020) A mesterséges intelligencia néhány biztonsági vetülete. SCIENTIA ET SECURITAS, 1 (1). pp. 29-34. ISSN 2732-2688 (online)

[img]
Preview
Text
Vidacsetal.Amestersegesintelligencianehanybiztonsagi_vetulete2.pdf

Download (449kB) | Preview

Abstract

A mély mesterséges neuronhálók elterjedése az ipari alkalmazásokban évekkel azok megbízhatóságával, értelmezhetőségével, és biztonságával kapcsolatos szakterületek fejlődését megelőzően történt. Az egyik, gyakorlatban is jelentős területen, a képfelismerésben például a megvalósult megoldások szinte már emberi teljesítményre képesek, de ezzel együtt célzott zajjal ezek a rendszerek félrevezethetők, megzavarhatók. Jelen kéziratban ismertetünk néhány tipikus biztonsági problémát, valamint rámutatunk arra, hogy a hagyományos szoftverfejlesztés területén alkalmazott minőségbiztosítási módszerekkel rokon megoldásokra szükség van az MI-re épülő rendszerek fejlesztésében, akár a mesterséges neuronhálók biztonságát, akár az MI rendszerek hagyományos komponenseinek fejlesztését tartjuk szem előtt.

Item Type: Article
Uncontrolled Keywords: Software engineering; biztonság; Szoftverfejlesztés; Artificial neural networks; Deep learning; security; Mélytanulás; mesterséges neuronhálók;
Subjects: Q Science / természettudomány > QA Mathematics / matematika > QA75 Electronic computers. Computer science / számítástechnika, számítógéptudomány
SWORD Depositor: MTMT SWORD
Depositing User: MTMT SWORD
Date Deposited: 14 Jan 2021 13:49
Last Modified: 21 Jan 2021 09:56
URI: http://real.mtak.hu/id/eprint/119579

Actions (login required)

Edit Item Edit Item