Анализ алгоритмов, влияющих на эффективность методов машинного обучения

Аннотация

Большинство актуальных исследований и работ в области машинного обучения ставят главной целью повышение точности распознавания, в то время как проблема состязательных атак на глубокие нейронные сети и их последствия пока не были в полной мере изучены. Работа посвящена анализу существующих атак, основанных на состязательных примерах на алгоритмы машинного обучения, применимые в цифровой образовательной среде. В данном материале анализируется исследовательский опыт по изучению эффективности атак, подготовленных с помощью алгоритма спроецированного градиентного спуска (PGD), алгоритма «глубокого обмана» (DeepFool),алгоритма Карлини – Вагнера (CW). Анализируются результаты атак обоих типов (по методам белого и черного ящика) на нейронные сети с архитектурами InceptionV3, Densenet121, ResNet50, MobileNet и Xception. Основной вывод работы заключается в том, что проблема состязательных атак актуальна для задач распознавания различных изображений, поскольку протестированные алгоритмы успешно атакуют обученные нейронные сети так, что их точность падает ниже 15 %.