مدلهای هوش مصنوعی که برای پیشبینی احکام قضایی (LJP) طراحی شدهاند، اخیراً با یک چالش جدی روبرو شدهاند. تحقیقات جدید روی ۳۳ هزار پرونده دادگاههای اشتغال بریتانیا نشان میدهد که بسیاری از این مدلها به جای «پیشبینی»، در حال سوءاستفاده از «نشت اطلاعات» در متون حقوقی هستند.
در واقع، این مدلها به جای تحلیل منطقی پرونده، از نشانههایی استفاده میکنند که به طور غیرمستقیم نتیجه حکم را فاش میکنند (Shortcut Learning). خبر خوب اینکه محققان ثابت کردند با حذف این ویژگیهای نشتکننده و بازآموزی مدلها، همچنان میتوان به دقت بالایی دست یافت و این سیستمها را برای آینده حقوقی قابلاعتمادتر کرد.
این مطالعه زنگ خطری است برای اینکه در کاربردهای حساس، به جای اعتماد صرف به خروجی مدل، «حسابرسی دقیق» داشته باشیم. 🔍
منبع: arXiv AI