· 2013
Test zamanında makine öğrenimine karşı kaçınma saldırıları
Evasion attacks against machine learning at test time
- 1.636atıf
- 2013yıl
Kısa özet
Test zamanında makine öğrenimi sınıflandırıcılarının güvenliğini sistematik olarak değerlendiren gradyan tabanlı bir yöntem, zararlı yazılım tespit sistemlerinin kolayca atlatılabileceğini göstermektedir.
Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.
Ana noktalar
- Test zamanında kaçınma saldırılarına karşı makine öğrenimi sınıflandırıcılarının güvenliğini sistematik olarak değerlendirmek için gradyan tabanlı bir yöntem önerilmiştir.
- Yöntem, sınıflandırıcıdaki zayıflıkları ortaya çıkarmak için artan saldırgan bilgisi ve manipülasyon yeteneği ile saldırı senaryolarını simüle eder.
- Yaklaşım, PDF zararlı yazılım tespiti üzerinde değerlendirilmiş ve bu tür sistemlerin kolayca atlatılabileceği gösterilmiştir.
- Analiz ayrıca bu kaçınma saldırılarına karşı potansiyel karşı önlemler önermektedir.
Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.
Özet (abstract)
Abstract. In security-sensitive applications, the success of machine learn-ing depends on a thorough vetting of their resistance to adversarial data. In one pertinent, well-motivated attack scenario, an adversary may at-tempt to evade a deployed system at test time by carefully manipulating attack samples. In this work, we present a simple but effective gradient-based approach that can be exploited to systematically assess the security of several, widely-used classification algorithms against evasion attacks. Following a recently proposed framework for security evaluation, we sim-ulate attack scenarios that exhibit different risk levels for the classifier by increasing the attacker’s knowledge of the system and her ability to manipulate attack samples. This gives the classifier designer a better pic-ture of the classifier performance under evasion attacks, and allows him to perform a more informed model selection (or parameter setting). We evaluate our approach on the relevant security task of malware detection in PDF files, and show that such systems can be easily evaded. We also sketch some countermeasures suggested by our analysis.
Yazarların özeti; kaynağından alınmıştır., 2013 · DOI ↗
Ücretsiz hesapla devam et
Makaleye Sor ile bu makaleye günde 3 soru ücretsiz; makaleyi kaydet, kaynakçasını al, ilgi alanına göre her gün yeni özetler. Çıkarımlar Premium.
Web'de ücretsiz devam etGoogle ya da Apple hesabınla giriş; kart istemez. Bu makaleye geri dönersin.
Telefonda:
Alan: Sinyal İşleme
Signal ProcessingComputer Science