· 2024
Yıldızları Yeniden Yazmak
Rewrite the Stars
- 513atıf
- 2024yıl
Kısa özet
Bu çalışma, ağlardaki 'yıldız işlemi'nin (eleman bazında çarpma) ağ genişliğini artırmadan, çekirdek hilelerine benzer şekilde girdileri yüksek boyutlu, doğrusal olmayan özellik uzaylarına haritalayabildiğini ortaya koymaktadır.
Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.
Ana noktalar
- Yıldız işlemi (eleman bazında çarpma), girdileri örtük olarak yüksek boyutlu, doğrusal olmayan özellik uzaylarına eşler.
- Bu eşleme, ağın genişliğini artırmadan gerçekleşir ve hesaplama verimliliği sunar.
- StarNet adlı bir prototip ağ, etkileyici performans ve düşük gecikme süresi gösterir.
- İşlemin potansiyeli, makine öğreniminde kullanılan çekirdek hileleriyle karşılaştırılır.
Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.
Özet (abstract)
Recent studies have drawn attention to the untapped potential of the “star operation” (element-wise multiplication) in network design. While intuitive explanations abound, the foundational rationale behind its application remains largely unexplored. Our study attempts to reveal the star operation's ability of mapping inputs into high-dimensional, non-linear feature spaces-akin to kernel tricks-without widening the network. We further introduce StarNet, a simple yet pow-erful prototype, demonstrating impressive performance and low latency under compact network structure and efficient budget. Like stars in the sky, the star operation appears unremarkable but holds a vast universe of potential. Our work encourages further exploration across tasks, with codes available at https://github.com/ma-xu/Rewrite-the-Stars.
Yazarların özeti; kaynağından alınmıştır., 2024 · DOI ↗
Ücretsiz hesapla devam et
Makaleye Sor ile bu makaleye günde 3 soru ücretsiz; makaleyi kaydet, kaynakçasını al, ilgi alanına göre her gün yeni özetler. Çıkarımlar Premium.
Web'de ücretsiz devam etGoogle ya da Apple hesabınla giriş; kart istemez. Bu makaleye geri dönersin.
Telefonda:
Alan: Arkeoloji (Sanat ve Beşeri Bilimler)
ArcheologyArts and Humanities