A mély mesterséges neuronhálók elterjedése az ipari alkalmazásokban évekkel azok megbízhatóságával, értelmezhető-ségével, és biztonságával kapcsolatos szakterületek fejlődését megelőzően történt. Az egyik, gyakorlatban is jelentős területen, a képfelismerésben például a megvalósult megoldások szinte már emberi teljesítményre képesek, de ezzel együtt célzott zajjal ezek a rendszerek félrevezethetők, megzavarhatók. Jelen kéziratban ismertetünk néhány tipikus biztonsági problémát, valamint rámutatunk arra, hogy a hagyományos szoftverfejlesztés területén alkalmazott minő-ségbiztosítási módszerekkel rokon megoldásokra szükség van az MI-re épülő rendszerek fejlesztésében, akár a mester-séges neuronhálók biztonságát, akár az MI rendszerek hagyományos komponenseinek fejlesztését tartjuk szem előtt.
BibTeX:
@Article{VJT20,
author = {Vidács, László and Jelasity, Márk and Tóth, László and Hegedűs, Péter and Ferenc, Rudolf},
journal = {Scientia et Securitas},
title = {A mesterséges intelligencia néhány biztonsági vetülete},
year = {2020},
month = dec,
note = {Open Access},
number = {1},
pages = {29–34},
volume = {1},
doi = {10.1556/112.2020.00005},
keywords = {mesterséges neuronhálók, mélytanulás, biztonság, szoftverfejlesztés},
url = {https://akjournals.com/view/journals/112/1/1/article-p29.xml},
}