تحقیقات جدید در حوزه پیشبینی قضایی (Legal Judgment Prediction) نشان داده که مدلهای هوش مصنوعی گاهی به جای تحلیل منطقی پرونده، به «میانبرهای زبانی» تکیه میکنند. بررسی ۳۳ هزار پرونده در دادگاههای استخدامی بریتانیا ثابت کرده که این مدلها ممکن است با خواندنِ صرفِ کلماتِ کلیدیِ نتیجهبخش در متنهای حقوقی، عملکرد کاذب و اغراقآمیزی از خود نشان دهند.
این یافته یک هشدار جدی برای حوزههای حساس است: هوش مصنوعی ممکن است بدون درک واقعیِ عدل و قانون، صرفاً به اطلاعاتِ لو رفته در متونِ پس از صدور حکم واکنش نشان دهد. خوشبختانه محققان معتقدند با پاکسازی دادههای آموزشی، میتوان این «میانبرها» را حذف کرد و هوش مصنوعیِ قابلاعتمادتری برای سیستم قضایی ساخت.
منبع: arXiv AI