PofoliaPofolia ile paylaşıldı

arXiv (Cornell University)· 2014· Ön baskı

Dönüşü Olmayan Örnekleyici: Hamilton Monte Carlo'da Yol Uzunluklarını Uyarlamalı Olarak Ayarlama

The No-U-turn sampler: adaptively setting path lengths in Hamiltonian Monte Carlo

Matthew D. Homan, Andrew Gelman

Kısa özet

Dönüşü Olmayan Örnekleyici (NUTS), Hamilton Monte Carlo'da (HMC) adım sayısını (L) manuel olarak ayarlama ihtiyacını ortadan kaldırır; otomatik olarak optimum bir yol uzunluğu belirler ve ayarlanan HMC'ye kıyasla benzer veya daha iyi performans gösterir.

Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.

Ana noktalar

  • NUTS, Hamilton Monte Carlo'da (HMC) bir örnekleme yörüngesindeki adım sayısını (L) otomatik olarak belirleyen bir uzantıdır.
  • Yolun geri dönmeye başladığını tespit ettiğinde durarak, bir dizi aday noktadan oluşan bir yol oluşturmak için özyinelemeli bir algoritma kullanır.
  • NUTS, manuel L ayarlaması gerektirmeden, iyi ayarlanmış standart HMC kadar, hatta bazen daha verimli performans gösterir.
  • Yöntem ayrıca, ilkel-ikili ortalama alma yöntemini kullanarak adım boyutu (e) için anında uyarlama içerir.

Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.

Özet (abstract)

Hamiltonian Monte Carlo (HMC) is a Markov chain Monte Carlo (MCMC) algorithm that avoids the random walk behavior and sensitivity to correlated parameters that plague many MCMC methods by taking a series of steps informed by first-order gradient information. These features allow it to converge to high-dimensional target distributions much more quickly than simpler methods such as random walk Metropolis or Gibbs sampling. However, HMC's performance is highly sensitive to two user-specified parameters: a step size e and a desired number of steps L. In particular, if L is too small then the algorithm exhibits undesirable random walk behavior, while if L is too large the algorithm wastes computation. We introduce the No-U-Turn Sampler (NUTS), an extension to HMC that eliminates the need to set a number of steps L. NUTS uses a recursive algorithm to build a set of likely candidate points that spans a wide swath of the target distribution, stopping automatically when it starts to double back and retrace its steps. Empirically, NUTS performs at least as efficiently as (and sometimes more effciently than) a well tuned standard HMC method, without requiring user intervention or costly tuning runs. We also derive a method for adapting the step size parameter e on the fly based on primal-dual averaging. NUTS can thus be used with no hand-tuning at all, making it suitable for applications such as BUGS-style automatic inference engines that require efficient turnkey samplers.

Yazarların özeti; kaynağından alınmıştır. arXiv (Cornell University), 2014 · DOI ↗

ÇıkarımlarPremium
Makaleye SorÜcretsiz hesapla

Ücretsiz hesapla devam et

Makaleye Sor ile bu makaleye günde 3 soru ücretsiz; makaleyi kaydet, kaynakçasını al, ilgi alanına göre her gün yeni özetler. Çıkarımlar Premium.

Web'de ücretsiz devam et

Google ya da Apple hesabınla giriş; kart istemez. Bu makaleye geri dönersin.

Telefonda:

Alan: İstatistik ve Olasılık

Statistics and ProbabilityMathematics