arXiv (Cornell University)· 2014· Ön baskı
Aykırı Örnekleri Açıklama ve Kullanma
Explaining and Harnessing Adversarial Examples
- 8.152atıf
- 2014yıl
Kısa özet
Sinir ağlarının aykırı örneklere karşı savunmasızlığının temel nedeni, doğrusal olmayanlık veya aşırı uyumdan ziyade, doğrusal doğalarından kaynaklandığı yeni nicel sonuçlarla ortaya konmuştur.
Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.
Ana noktalar
- Sinir ağlarının aykırı örneklere karşı savunmasızlığı öncelikle doğrusal doğalarından kaynaklanmaktadır.
- Bu doğrusallık, aykırı örneklerin mimariler ve veri kümeleri genelindeki genellemesini açıklamaktadır.
- Bu açıklamaya dayanan yeni, hızlı bir aykırı örnek üretme yöntemi önerilmektedir.
- Bu örnekler kullanılarak yapılan aykırı eğitim, bir maxout ağının MNIST veri kümesindeki test hatasını azaltmıştır.
Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.
Özet (abstract)
Several machine learning models, including neural networks, consistently misclassify adversarial examples---inputs formed by applying small but intentionally worst-case perturbations to examples from the dataset, such that the perturbed input results in the model outputting an incorrect answer with high confidence. Early attempts at explaining this phenomenon focused on nonlinearity and overfitting. We argue instead that the primary cause of neural networks' vulnerability to adversarial perturbation is their linear nature. This explanation is supported by new quantitative results while giving the first explanation of the most intriguing fact about them: their generalization across architectures and training sets. Moreover, this view yields a simple and fast method of generating adversarial examples. Using this approach to provide examples for adversarial training, we reduce the test set error of a maxout network on the MNIST dataset.
Yazarların özeti; kaynağından alınmıştır. arXiv (Cornell University), 2014 · DOI ↗
Ücretsiz hesapla devam et
Makaleye Sor ile bu makaleye günde 3 soru ücretsiz; makaleyi kaydet, kaynakçasını al, ilgi alanına göre her gün yeni özetler. Çıkarımlar Premium.
Web'de ücretsiz devam etGoogle ya da Apple hesabınla giriş; kart istemez. Bu makaleye geri dönersin.
Telefonda:
Alan: Yapay Zeka
Artificial IntelligenceComputer Science