آیا چتباتهای هوش مصنوعی واقعاً برای ارائه مشاوره سلامت روان ایمن هستند؟ این سوالی است که پژوهشگران با معرفی ابزار جدید VERA-MH به آن پاسخ دادهاند.
در یک مطالعه علمی جدید، محققان نشان دادند که مدلهای هوش مصنوعی (LLMs) در ارزیابی ریسک خودکشی و ارائه پاسخهای ایمن، با نظر متخصصان بالینی همراستایی بسیار بالایی (۸۱٪) دارند. این دستاورد میتواند راه را برای استفاده ایمنتر از دستیارهای هوشمند در حوزهی سلامت روان هموار کند. استفاده از این معیارهای استاندارد، گامی بزرگ برای اطمینان از «اخلاق و مسئولیتپذیری» در دنیای هوش مصنوعی است.
منبع: arXiv AI