محققان در مقاله جدیدی نشان دادند که برای بهبود قدرت استدلال مدلهای زبانی (LLM)، همیشه نیازی به آموزشهای پیچیده نیست! آنها تکنیکی به نام «Random Soft Prompts» یا به اختصار RSP را معرفی کردهاند.
نکته جالب اینجاست: به جای استفاده از بردارهای یادگرفتهشده توسط مدل، آنها به سادگی تعدادی بردار تصادفی به ورودی مدل اضافه میکنند. این کار باعث میشود در مراحل اولیه تولید متن، تنوع توکنها بیشتر شده و مسیرهای استدلال متنوعتری باز شود. این روشِ «آموزش-آزاد» (Training-free) توانسته در بنچمارکهای ریاضی، عملکردی مشابه روشهای پیچیده و بهینهسازیشده داشته باشد! 🚀
این تحقیق نشان میدهد که گاهی تزریق یک «نویز هوشمندانه» میتواند خروجی مدل را بسیار خلاقتر و دقیقتر کند.
منبع: arXiv AI