محققان در مطالعهای جدید، تاثیر «شخصیت» مدلهای زبانی (LLMs) را هنگام انجام وظایف آموزشی بررسی کردند. این پژوهش نشان میدهد که وقتی به هوش مصنوعی ویژگیهایی مثل «مهربان بودن» یا «سختگیر بودن» نسبت داده میشود (Persona Steering)، نه تنها کیفیت پاسخها تغییر میکند، بلکه در سیستمهای نمرهدهی خودکار هم شاهد سوگیریهای جالبی هستیم!
نتایج این تحقیق زنگ خطری برای استفاده از مدلهای شخصیسازی شده در حوزههای آموزشی است، چرا که نمرات دانشآموزان میتواند بر اساس «لحن» هوش مصنوعی به شدت تغییر کند. 🎓✨
منبع: arXiv NLP
