همانطور که مدلهای زبانی (LLM) بزرگتر میشوند، توانایی آنها در «توضیحِ چراییِ تصمیماتشان» (Self-Explanation) هم بیشتر شده، اما یک سوال کلیدی باقی مانده: این توضیحات چقدر به حقیقت نزدیک هستند؟ 🤔
محققان در مقاله اخیر خود به نقد این موضوع پرداختهاند که بسیاری از این توضیحاتِ هوش مصنوعی، اگرچه بسیار متقاعدکننده و «پذیرفتنی» (Plausible) به نظر میرسند، اما لزوماً نشاندهنده فرآیند واقعیِ استدلال مدل نیستند! 🤥
این پژوهش پیشنهاد میدهد که بهجای تمرکز صرف بر ظاهرِ منطقی توضیحات، باید روی «عملکردی بودن» (Actionability) آنها تمرکز کنیم تا بتوانیم از این قابلیت در تصمیمگیریهای حساس واقعی بهدرستی استفاده کنیم. یک گام مهم برای نزدیکتر شدن به هوش مصنوعیِ قابلاعتماد! 🚀
منبع: arXiv NLP