⚠️ هوش مصنوعی گاهی در تحلیل قوانین پیچیده دچار اشتباه می‌شود!

محققان به تازگی پدیده‌ای به نام «فروپاشی زنجیره استثنا» در مدل‌های زبانی بزرگ (LLM) کشف کرده‌اند. مشکل از این قرار است که مدل‌ها در درک قوانین شرطیِ تو در تو (مثلاً: «الف الزامی است مگر اینکه ب رخ دهد، مگر اینکه ج ب را نقض کند») دچار خطاهای ناگهانی می‌شوند.

نکته جالب اینجاست که این مدل‌ها ممکن است بدون هیچ آپدیتی، رفتارشان تغییر کند که این موضوع برای محیط‌های حساس و قانونی یک چالش بزرگ محسوب می‌شود. به همین دلیل معماری جدیدی به نام «Aethis» معرفی شده که با ترکیب قدرت LLM و منطق ریاضی (SMT)، دقت و قطعیت را در اجرای قوانین تضمین می‌کند.

این تحقیق هشدار می‌دهد که در آینده، برای استفاده از AI در حوزه‌های قانونی و بیمه، صرفاً تکیه بر مدل‌های زبانی کافی نیست و نیاز به لایه‌های نظارتی دقیق داریم.

منبع: arXiv AI