خبر عجیبی از دنیای حقوق منتشر شده که توجه زیادی رو جلب کرده؛ گزارشها نشون میده وزارت دادگستری آمریکا (DOJ) برای نگه داشتن بازداشتشدگان مهاجر (ICE)، به استفاده از پروندههای قضایی کاملاً ساختگی که توسط هوش مصنوعی تولید شدن، متهم شده! ⚖️
این اتفاق که زنگ خطری جدی برای حوزه «حقوق و هوش مصنوعی» محسوب میشه، نشون میده که چقدر استفاده از مدلهای زبانی بدون نظارت دقیق میتونه خطرناک باشه و عدالت رو زیر سوال ببره. وقتی هوش مصنوعی شروع به «توهم زدن» (Hallucination) در پروندههای حساس قضایی میکنه، نتیجهاش میتونه نقض حقوق انسانی باشه. 🛑
نظر شما چیه؟ آیا وقتش نرسیده که برای استفاده از ابزارهای هوش مصنوعی در سیستمهای قضایی قوانین سختگیرانهتری وضع بشه؟
منبع: Hacker News AI