ACM Computing Surveys· 2025Q1· Derleme
Büyük Dil Modelleri İçin Talimat Ayarlaması: Bir Derleme
Instruction Tuning for Large Language Models: A Survey
- 179atıf
- Q1SCImago
- 2025yıl
Kısa özet
Talimat ayarlaması (IT), büyük dil modellerini (LLM'ler) (talimat, çıktı) çiftlerinden oluşan bir veri kümesi üzerinde eğiterek insan talimatlarıyla uyumlu hale getiren temel bir tekniktir ve sonraki kelime tahmini ile kullanıcı niyeti arasındaki boşluğu kapatır.
Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.
Ana noktalar
- Talimat ayarlaması (IT), LLM'leri insan talimatlarına uyumlu hale getirmek için (talimat, çıktı) çiftleri üzerinde eğitir.
- IT, LLM'lerin sonraki kelime tahmini hedefi ile kullanıcıların talimatlara uyma ihtiyacı arasındaki boşluğu doldurur.
- Derleme, IT metodolojisini, veri kümesi oluşturmayı, eğitimi ve farklı modalite ve alanlardaki uygulamaları sistematik olarak gözden geçirir.
- Analiz, IT sonuçlarını etkileyen faktörleri ve potansiyel tuzakları içerir, ayrıca gelecekteki araştırmalar için öneriler sunar.
Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.
Özet (abstract)
This article surveys research works in the quickly advancing field of instruction tuning (IT), a crucial technique to enhance the capabilities and controllability of large language models (LLMs). Instruction tuning refers to the process of further training LLMs on a dataset consisting of (instruction, output) pairs in a supervised fashion, which bridges the gap between the next-word prediction objective of LLMs and the users’ objective of having LLMs adhere to human instructions. In this work, we make a systematic review of the literature, including the general methodology of IT, the construction of IT datasets, the training of IT models, and applications to different modalities, domains and application, along with analysis of aspects that influence the outcome of IT (e.g., generation of instruction outputs, size of the instruction dataset). We also review the potential pitfalls of IT along with criticism against it, along with efforts pointing out current deficiencies of existing strategies and suggest some avenues for fruitful research.
Yazarların özeti; kaynağından alınmıştır. ACM Computing Surveys, 2025 · DOI ↗
Ücretsiz hesapla devam et
Makaleye Sor ile bu makaleye günde 3 soru ücretsiz; makaleyi kaydet, kaynakçasını al, ilgi alanına göre her gün yeni özetler. Çıkarımlar Premium.
Web'de ücretsiz devam etGoogle ya da Apple hesabınla giriş; kart istemez. Bu makaleye geri dönersin.
Telefonda:
Alan: Yapay Zeka
Artificial IntelligenceComputer Science