🔍 چرا هوش مصنوعی گاهی «توضیحات» متفاوتی می‌دهد؟

اعتماد به سیستم‌های هوش مصنوعی در سازمان‌ها (Enterprise NLP) نیازمند شفافیت است. اما وقتی از مدل‌های «جعبه‌سیاه» استفاده می‌کنیم، فهمیدن دلیل یک خروجی کار سختی است.

محققان در پژوهش اخیر خود، یک چارچوب جدید برای ارزیابی «پایداریِ توضیحات» در مدل‌های زبانی ارائه داده‌اند. نتایج این مطالعه نشان می‌دهد که مدل‌های زبانی بزرگ (LLM) نسبت به مدل‌های قدیمی (Encoder-only) توضیحات بسیار پایدارتر و قابل‌اعتمادتری ارائه می‌دهند و با افزایش ابعاد مدل (مثل مدل‌های Llama)، این پایداری باز هم بیشتر می‌شود.

این تحقیق به سازمان‌ها کمک می‌کند تا پیش از استفاده از هوش مصنوعی در حوزه‌های حساس، تعادل مناسبی بین «هزینه پردازش» و «دقت و پایداری توضیحات» برقرار کنند. گامی مهم برای افزایش اعتماد به AI در صنایع بزرگ! 🚀

منبع: arXiv AI