arXiv (Cornell University)· 2012· Ön baskı
Özellik Dedektörlerinin Birlikte Adaptasyonunu Engelleyerek Sinir Ağlarını İyileştirme
Improving neural networks by preventing co-adaptation of feature detectors
- 6.658atıf
- 2012yıl
Kısa özet
Eğitim sırasında özellik dedektörlerinin yarısını rastgele atlamak, küçük veri kümelerinde eğitilen büyük sinir ağlarındaki aşırı uyumu önemli ölçüde azaltır ve kıyaslama görevlerinde performansı artırır.
Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.
Ana noktalar
- Küçük veri kümelerinde eğitilen büyük sinir ağlarındaki aşırı uyum, eğitim başına özellik dedektörlerinin yarısının rastgele atılmasıyla azaltılır.
- Bu 'dropout' tekniği, özellik dedektörlerinin aşırı özelleşmesini ve birlikte bağımlı olmasını engeller.
- Nöronlar, iç bağlam varyasyonlarına karşı dayanıklılığı artırarak genel olarak faydalı özellikler tespit etmeyi öğrenir.
- Dropout, birçok kıyaslama görevine uygulanmış ve konuşma ile nesne tanımada yeni en iyi sonuçları elde etmiştir.
Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.
Özet (abstract)
When a large feedforward neural network is trained on a small training set, it typically performs poorly on held-out test data. This "overfitting" is greatly reduced by randomly omitting half of the feature detectors on each training case. This prevents complex co-adaptations in which a feature detector is only helpful in the context of several other specific feature detectors. Instead, each neuron learns to detect a feature that is generally helpful for producing the correct answer given the combinatorially large variety of internal contexts in which it must operate. Random "dropout" gives big improvements on many benchmark tasks and sets new records for speech and object recognition.
Yazarların özeti; kaynağından alınmıştır. arXiv (Cornell University), 2012 · DOI ↗
Ücretsiz hesapla devam et
Makaleye Sor ile bu makaleye günde 3 soru ücretsiz; makaleyi kaydet, kaynakçasını al, ilgi alanına göre her gün yeni özetler. Çıkarımlar Premium.
Web'de ücretsiz devam etGoogle ya da Apple hesabınla giriş; kart istemez. Bu makaleye geri dönersin.
Telefonda:
Alan: Yapay Zeka
Artificial IntelligenceComputer Science