World Psychiatry· 2025Q1· Derleme
Yapay Zeka Ruh Sağlığı Sohbet Botları, Kural Tabanlı Sistemlerden Büyük Dil Modellerine Evriliyor: Klinik Testler Geri Kalıyor
Charting the evolution of artificial intelligence mental health chatbots from rule‐based systems to large language models: a systematic review
- 93atıf
- Q1SCImago
- 2025yıl
Kısa özet
160 çalışmanın (2020-2024) sistematik bir incelemesi, büyük dil modeli (LLM) tabanlı ruh sağlığı sohbet botlarının 2024'te yeni araştırmaların %45'ine yükseldiğini, ancak yalnızca %16'sının klinik etkinlik testi yapıldığını ve çalışmaların çoğunun erken doğrulama aşamalarında olduğunu ortaya koyuyor.
Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.
Ana noktalar
- LLM tabanlı ruh sağlığı sohbet botları, 2024'teki yeni çalışmaların %45'ini oluşturdu.
- LLM çalışmalarının yalnızca %16'sı ve tüm çalışmaların %47'si klinik etkinliği (semptom azalması) değerlendirdi.
- Pazarlanan "yapay zeka destekli" sohbet botlarının çoğu, gelişmiş yapay zeka yerine basit kural tabanlı betiklere dayanıyor.
- LLM sohbet botları, yanlış yanıtlar, gizlilik riskleri ve doğrulanmamış etkiler dahil olmak üzere etik kaygılar doğuruyor.
- Önerilen üç aşamalı bir değerlendirme çerçevesi (bench, pilot, klinik), değerlendirmeyi standartlaştırmayı amaçlıyor.
Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.
Özet (abstract)
The rapid evolution of artificial intelligence (AI) chatbots in mental health care presents a fragmented landscape with variable clinical evidence and evaluation rigor. This systematic review of 160 studies (2020-2024) classifies chatbot architectures - rule-based, machine learning-based, and large language model (LLM)-based - and proposes a three-tier evaluation framework: foundational bench testing (technical validation), pilot feasibility testing (user engagement), and clinical efficacy testing (symptom reduction). While rule-based systems dominated until 2023, LLM-based chatbots surged to 45% of new studies in 2024. However, only 16% of LLM studies underwent clinical efficacy testing, with most (77%) still in early validation. Overall, only 47% of studies focused on clinical efficacy testing, exposing a critical gap in robust validation of therapeutic benefit. Discrepancies emerged between marketed claims ("AI-powered") and actual AI architectures, with many interventions relying on simple rule-based scripts. LLM-based chatbots are increasingly studied for emotional support and psychoeducation, yet they pose unique ethical concerns, including incorrect responses, privacy risks, and unverified therapeutic effects. Despite their generative capabilities, LLMs remain largely untested in high-stakes mental health contexts. This paper emphasizes the need for standardized evaluation and benchmarking aligned with medical AI certification to ensure safe, transparent and ethical deployment. The proposed framework enables clearer distinctions between technical novelty and clinical efficacy, offering clinicians, researchers and regulators ordered steps to guide future standards and benchmarks. To ensure that AI chatbots enhance mental health care, future research must prioritize rigorous clinical efficacy trials, transparent architecture reporting, and evaluations that reflect real-world impact rather than the well-known potential.
Yazarların özeti; kaynağından alınmıştır. World Psychiatry, 2025 · DOI ↗
Ücretsiz hesapla devam et
Makaleye Sor ile bu makaleye günde 3 soru ücretsiz; makaleyi kaydet, kaynakçasını al, ilgi alanına göre her gün yeni özetler. Çıkarımlar Premium.
Web'de ücretsiz devam etGoogle ya da Apple hesabınla giriş; kart istemez. Bu makaleye geri dönersin.
Telefonda:
Alan: Uygulamalı Psikoloji
Applied PsychologyPsychology