arXiv (Cornell University)· 2014· Ön baskı
SAGA: Bileşik Hedefler İçin Hızlı Artımlı Gradyan Yöntemi
SAGA: A Fast Incremental Gradient Method With Support for Non-Strongly Convex Composite Objectives
- 932atıf
- 2014yıl
Kısa özet
SAGA, SAG ve SVRG gibi önceki artımlı gradyan algoritmalarından daha hızlı doğrusal yakınsama oranları elde eden ve doğrudan güçlü olmayan dışbükey bileşik hedefleri destekleyen yeni bir optimizasyon yöntemidir.
Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.
Ana noktalar
- Yeni bir artımlı gradyan optimizasyon yöntemi olan SAGA'yı tanıtır.
- SAG ve SVRG'ye kıyasla daha hızlı doğrusal yakınsama oranları elde eder.
- Proksimal operatörlü bileşik hedefleri destekler.
- Doğrudan güçlü olmayan dışbükey problemleri ele alır ve güçlü dışbükeyliğe uyum sağlar.
Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.
Özet (abstract)
In this work we introduce a new optimisation method called SAGA in the spirit of SAG, SDCA, MISO and SVRG, a set of recently proposed incremental gradient algorithms with fast linear convergence rates. SAGA improves on the theory behind SAG and SVRG, with better theoretical convergence rates, and has support for composite objectives where a proximal operator is used on the regulariser. Unlike SDCA, SAGA supports non-strongly convex problems directly, and is adaptive to any inherent strong convexity of the problem. We give experimental results showing the effectiveness of our method.
Yazarların özeti; kaynağından alınmıştır. arXiv (Cornell University), 2014 · DOI ↗
Ücretsiz hesapla devam et
Makaleye Sor ile bu makaleye günde 3 soru ücretsiz; makaleyi kaydet, kaynakçasını al, ilgi alanına göre her gün yeni özetler. Çıkarımlar Premium.
Web'de ücretsiz devam etGoogle ya da Apple hesabınla giriş; kart istemez. Bu makaleye geri dönersin.
Telefonda:
Alan: Hesaplamalı Mekanik
Computational MechanicsEngineering