🧠 چرا شخصیت‌های هوش مصنوعی همیشه قابل‌اعتماد نیستند؟

تا حالا دقت کردید وقتی از یک هوش مصنوعی می‌خواهید در نقش یک شخصیت خاص (Persona) به سوالات چندگزینه‌ای پاسخ دهد، چقدر ممکن است دچار نوسان و تناقض شود؟ 🧐

یک پژوهش جدید روی «نسل‌های شخصیت‌محور» (Persona-driven Generations) نشان داده که استفاده از شخصیت‌های مختلف در پاسخ‌دهی به سوالات، باعث بروز ناپایداری‌های عجیبی می‌شود. یافته‌های کلیدی این تحقیق:

✅ پایداری پاسخ‌ها بسته به مدل و ابعاد آن متفاوت است.
✅ سوالات در حوزه‌های ریاضی و منطق، بیشترین نوسان و خطا را دارند.
✅ فرمتِ «پرامپت» تاثیر به‌مراتب بیشتری روی دقت پاسخ‌ها نسبت به تنظیمات فنی مثل Temperature دارد.

نتیجه اخلاقی: اگر برای پروژه‌های حرفه‌ای یا تحقیقاتی از هوش مصنوعی با پرسونای خاص استفاده می‌کنید، حتماً قبل از خروجی گرفتن، تست‌های پایداری انجام دهید؛ چون هوش مصنوعی ممکن است در ظاهر منطقی به نظر برسد، اما در واقعیت متزلزل باشد! 📉

منبع: arXiv NLP