چکیده Adversarial machine learning (AML) studies attacks that can fool machine learning algorithms into generating incorrect outcomes as well as the defenses against worst-case attacks to strengthen model robustness. Specifically for image classification, it is challenging to understand adversarial attacks due to their use of subtle perturbations that are not human-interpretable, as well as the variability of attack impacts influenced by diverse methodologies, instance differences, and model architectures. Through a design study with AML learners and teachers, we introduce AdvEx, a multi-level interactive visualization system that comprehensively presents the properties and impacts of evasion attacks on different image classifiers for novice AML learners. We quantitatively and qualitatively assessed AdvEx in a two-part evaluation including user studies and expert interviews. Our results show that AdvEx is not only highly effective as a visualization tool for understanding AML mechanisms, but also provides an engaging and enjoyable learning experience, thus demonstrating its overall benefits for AML learners.

چکیده به فارسی (ترجمه ماشینی) یادگیری ماشین های مخالف (AML) حملات را مطالعه می کند که می تواند الگوریتم های یادگیری ماشین را در تولید نتایج نادرست و همچنین دفاع در برابر حملات بدترین حالت برای تقویت استحکام مدل فریب دهد.به طور خاص برای طبقه بندی تصویر ، درک حملات مخالف به دلیل استفاده از آشفتگی های ظریف که قابل تفسیر انسانی نیستند ، و همچنین تنوع تأثیرات حمله تحت تأثیر روشهای متنوع ، تفاوتهای نمونه و معماری های مدل ، چالش برانگیز است.از طریق یک مطالعه طراحی با زبان آموزان و معلمان AML ، ما ADVEX را معرفی می کنیم ، یک سیستم تجسم تعاملی چند سطحی که به طور جامع خواص و تأثیرات حملات فرار بر روی طبقه بندی کننده های مختلف تصویر را برای زبان آموزان تازه کار AML ارائه می دهد.ما از نظر کمی و کیفی ADVEX را در یک ارزیابی دو بخشی از جمله مطالعات کاربر و مصاحبه های متخصص ارزیابی می کنیم.نتایج ما نشان می دهد که ADVEX نه تنها به عنوان یک ابزار تجسم برای درک مکانیسم های AML بسیار مؤثر است ، بلکه یک تجربه یادگیری جذاب و لذت بخش را نیز فراهم می کند ، بنابراین مزایای کلی آن را برای زبان آموزان AML نشان می دهد.

دسته بندی موضوعات Human-Computer Interaction,Computer Vision and Pattern Recognition,تعامل انسان و رایانه ، چشم انداز رایانه و تشخیص الگوی ،

عنوان مقاله به انگلیسی Panda or not Panda? Understanding Adversarial Attacks with Interactive Visualization

عنوان مقاله به فارسی Panda آری یا Panda نه؟درک حملات مخالف با تجسم تعاملی

لینک دانلود مقاله دانلود مقاله

نویسندگان Yuzhe You, Jarvis Tse, Jian Zhao

مشاهده بیشتر