محققان در پژوهشی جدید به سراغ این سوال رفتهاند که آیا مدلهای زبانی بزرگ (LLM) هنگام تفکر، یک «گفتگوی درونی» (Polylogue) دارند؟ 🧐
این مطالعه نشان میدهد که هوش مصنوعی ویژگیهای شخصیتی را به صورت بردارهای عددی در حافظه خود ذخیره میکند. محققان با بررسی این «بردارهای شخصیت» در حین تولید پاسخ، متوجه شدند که میتوان از آنها به عنوان ابزاری برای نظارت و حتی تغییرِ جهتگیری هوش مصنوعی استفاده کرد.
این یعنی در آینده شاید بتوانیم «فرآیند تفکر» مدلها را به صورت زنده مشاهده کرده و پیش از نهایی شدن پاسخ، آن را اصلاح یا بهینهسازی کنیم. گامی بزرگ برای رسیدن به مدلهایی با استدلال دقیقتر! ✨
منبع: arXiv AI