Dr. Horváth András előadása

Kedves Kollégák!

Dr. Horváth András a PPKE docense "Matricaalapú támadások komplexitása szemantikus szegmentációban" címmel tart előadást 2024. május 16-án 11 órától az alagsori 6-os teremben.

Az előadás absztraktja a következő:

"Matricaalapú támadások komplexitása szemantikus szegmentációban"

Bár az elmúlt években hatalmas előrelépések történtek a mélytanulás területén, továbbra is
aggodalomra adhat okot a modellek érzékenysége a rosszindulatú támadásokkal (adversarial attacks)
szemben. Ebben az előadásban szeretném bemutatni a matricaalapú támadások korlátait szimulált és
valós problémákon keresztül. Szeretném megmutatni, hogy bár ezek a támadások képesek lehetnek
bizonyos területek megváltoztatására, 'hatótávolságuk', az általánosságot szem előtt tartva gyakran
szűkebb, mint azt előzetesen gondoltuk, különösen a gyakorlati alkalmazásokban. Megmutatom, hogy a
legtöbb matricalapú támadás gyakorlati alkalmazhatósága korlátozott, mivel nem képesek tetszőleges
kimeneti térképeket előállítani, és térbeli korlátokat mutatnak fel, amelyek kisebbek, mint a hálózat
matricához tartozó receptív mezeje.



"Complexity Analysis of Patch-based Adversarial Attacks on Semantic Segmentation"

Despite advancements in deep learning, concerns persist regarding the susceptibility of models to
adversarial attacks, particularly in safety-critical scenarios. In this talk I would like to
demonstrate the limitations of patch-based attacks in generating arbitrary output maps through a
combination of simulated scenarios and real-world examples. Our study reveals that while these
attacks can affect specific areas, their scope is often more constrained than anticipated, especially
in practical applications where targeted regions are vulnerable. We establishrf that the practical
applicability of most patch-based attacks is limited, as they fail to universally generate arbitrary
output maps and exhibit spatial constraints smaller than their receptive field.