npj Digital Medicine· 2026Q1
Yüksek Riskli Sağlık Ortamlarında Hasta Sıkıntısı ve İntihara Yatkınlığa Yanıt Vermeye Hazırlanan Yapay Zeka Sohbet Robotları
Preparing AI chatbots to respond to patient distress and suicidality in high-risk healthcare settings
- 0atıf
- Q1SCImago
- 2026yıl
Kısa özet
Yapay zeka sohbet robotları, 'yapay zeka halüsinasyonları' ve insan desteği bağlantılarının eksikliği gibi risklere rağmen, yüksek riskli sağlık ortamlarında hasta sıkıntısı ve intihara yatkınlığa yanıt verecek şekilde hazırlanabilir.
Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.
Ana noktalar
- Yapay zeka sohbet robotları, davranışsal sağlık alanında yaygınlaşmakta, talep üzerine destek sunmakta ve insan benzeri konuşmaları simüle etmektedir.
- Temel riskler arasında risk izleme eksikliği, yanıt değişkenliği ve yanlış/zararlı tavsiyeler ('yapay zeka halüsinasyonları') yer almaktadır.
- Yapay zeka sohbet robotlarıyla insan etkileşimlerinin ardından kendilerine zarar vermeyi teşvik eden veya talimat veren birkaç olumsuz olay yaşanmıştır.
- Klinik ortamlarda hasta sıkıntısı ve intihara yatkınlık gibi yüksek riskli durumlar için yapay zeka sohbet robotlarının hazırlanması gerekmektedir.
Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.
Özet (abstract)
Generative artificial intelligence (AI) chatbots are rapidly proliferating for behavioral health support by individual users independently and within healthcare settings. AI chatbots leverage large language models (or LLMs) that use natural language processing, machine learning, and deep learning to simulate human-like conversations, which respond to users’ input in real-time 1 . On-demand chatbot availability when human clinicians are not available, coupled with LLMs’ improving abilities to simulate behavioral health support, has brought increased attention to how this technology can support users, including patients with behavioral health needs, as tools embedded in clinical settings, while also reducing clinician burden and helping address mental healthcare access gaps 2 , 3 , 4 . Patients also report beliefs that conventional behavioral treatments are ineffective, and perceive digital health tools as safe and non-judgmental 2 , 5 . However, there are numerous risks associated with AI chatbots, including a lack of risk monitoring and human support linkages, variability in responses to similar user messages, and provision of inaccurate/harmful advice (e.g., “AI hallucinations”). Several highly publicized suicides and adverse events have occurred following human interactions with AI chatbots, encouraging or instructing harm 6 , 7 .
Yazarların özeti; kaynağından alınmıştır. npj Digital Medicine, 2026 · DOI ↗
Ücretsiz hesapla devam et
Makaleye Sor ile bu makaleye günde 3 soru ücretsiz; makaleyi kaydet, kaynakçasını al, ilgi alanına göre her gün yeni özetler. Çıkarımlar Premium.
Web'de ücretsiz devam etGoogle ya da Apple hesabınla giriş; kart istemez. Bu makaleye geri dönersin.
Telefonda:
Alan: Uygulamalı Psikoloji
Applied PsychologyPsychology