محققان روش جدیدی به نام «BeyondUncertainty» ابداع کردهاند که به مدلهای زبانی کمک میکند قبل از دسترسی به منابع خارجی (Retrieval)، میزان اطمینان خود را بسنجند.
💡 نکته جالب اینجاست که اگر مدل از پاسخ خود مطمئن باشد، مستقیماً جواب میدهد و اگر نه، به سراغ جستجو میرود. این کار نه تنها دقت مدل را افزایش میدهد، بلکه نیاز به جستجوهای غیرضروری را تا ۲۰ درصد کاهش میدهد. با این حال، استفاده از این روش به دلیل محاسبات اضافه، مصرف توکن را کمی بالا میبرد که در واقع یک بدهبستان (Trade-off) هوشمندانه بین سرعت، دقت و هزینه است.
منبع: arXiv AI