محققان در یک پژوهش جدید و بسیار جذاب، کشف کردند که مدلهای زبانی بزرگ (LLMs) یک «تخمین درونی» از طول پاسخ خود دارند! در واقع، پیش از آنکه مدل شروع به تولید کلمات کند، اطلاعات مربوط به طول پاسخ نهایی در وضعیت پنهان (Hidden State) آن نهفته است.
این یعنی مدلهای زبانی برخلاف تصور، صرفاً «کلمه به کلمه» پیش نمیروند و نوعی «برنامهریزی ساختاری» برای طول پاسخ خود دارند. این کشف جالب نه تنها درک ما را از نحوه کارکرد ترنسفورمرها عمیقتر میکند، بلکه میتواند راه را برای کنترل دقیقتر روی خروجیهای هوش مصنوعی باز کند.
نظر شما چیست؟ آیا این «برنامهریزی» میتواند به کاهش خطاهای منطقی و تکرارهای بیهوده کمک کند؟
منبع: arXiv Machine Learning