تا به حال شده بخواهید هوش مصنوعی همزمان مفید باشد و هم پاسخهای غیرسمی ارائه دهد؟ محققان روش جدیدی به نام MAT-Steer معرفی کردهاند که بدون نیاز به آموزش مجدد و هزینهبر مدلهای بزرگ، اجازه میدهد رفتارهای مدل را با دقت بسیار بالا «مهار» (Steer) کنید.
این روش با تمرکز بر مداخلات در سطح توکن، به مدل یاد میدهد که چطور بین ویژگیهای مختلف (مثل درستی، بیطرفی و عدم سمیت) تعادل برقرار کند؛ آن هم بدون اینکه این ویژگیها با هم تداخل داشته باشند. نتایج نشان میدهد که این متد نسبت به روشهای فعلی، عملکرد بسیار دقیقتری دارد. یک گام بزرگ برای کنترل دقیقتر مدلهای زبانی!
منبع: arXiv AI