آیا LLMها همیشه در محاسبات دقیق و احتمالی قابل اعتماد هستند؟ پژوهش جدیدی نشان میدهد که مدلهای زبانی در تولید متن عالی هستند، اما وقتی پای «استدلال دقیق و منطقی» وسط میآید، ترکیب آنها با روشهای کلاسیک احتمالی (مثل رگرسیون لجستیک) نتیجه بسیار بهتری میدهد.
محققان فریمورک جدیدی به نام RLIE را معرفی کردهاند که طی چهار مرحله (تولید قانون، وزندهی، اصلاح و ارزیابی)، سعی دارد کاستیهای مدلهای زبانی را در حوزه استدلالهای نمادین برطرف کند. این تحقیق جالب به ما یادآوری میکند که برای رسیدن به یک هوش مصنوعیِ «قابل اعتماد»، گاهی باید از روشهای کلاسیکِ آمار و احتمال کمک گرفت.
منبع: arXiv AI