تا حالا دقت کردید که گاهی اضافه کردن قابلیتهای جدید به یک مدل هوش مصنوعی (LLM Agent)، نه تنها باعث پیشرفت نمیشه، بلکه عملکردش در کارهای ساده رو هم مختل میکنه؟ پژوهشگران در مقاله جدیدی به بررسی پدیدهای به نام «مالیات رگرسیون» پرداختند.
نتایج جالبه:
۱. گاهی وجودِ یک دستورالعمل (Skill) در کانتکستِ مدل، ناخودآگاه رفتار مدل رو تغییر میده؛ حتی اگه از اون دستور استفاده نشه!
۲. ابزارهای فعلی گاهی به جای بهبود «درکِ» مدل، بیش از حد روی «روش انجام کار» تمرکز دارن که باعث کاهش دقت در چک کردن خروجی میشه.
به عبارت سادهتر، اضافه کردن قابلیتهای بیشتر همیشه به معنی هوشمندتر شدن نیست و گاهی باید مراقب «پسرفت» مدل باشیم! 🧠⚙️
منبع: arXiv AI