آیا تا به حال فکر کردهاید که چرا سیستمهای هوش مصنوعی با وجود اعتماد بالای عمومی، گاهی دچار فروپاشی میشوند؟ پژوهشگران در مقاله جدیدی که در arXiv منتشر شده، با استفاده از مدلسازیهای ریاضی، به تحلیل پایداری اعتماد عمومی در نهادهای الگوریتممحور پرداختهاند.
نکته جالب اینجاست که طبق این مدل، میزان اعتماد بالا به تنهایی تضمینکننده پایداری سیستم نیست و گاهی اوقات ساختارهای «کماعتماد» میتوانند از نظر ریاضی پایدارتر عمل کنند. این تحقیق به ما یادآوری میکند که برای استفاده از AI در سطوح کلان و حاکمیتی، نباید فقط روی اعداد تکیه کرد، بلکه باید به ساختار اطلاعاتی محیط و نحوه برخورد با جنجالهای احتمالی توجه ویژهای داشت.
این مطالعه نشان میدهد که برای داشتن یک سیستم هوشمند قابلاعتماد، معماری ساختاری بسیار مهمتر از سطح مطلق اعتماد کاربران است. نظر شما چیست؟ آیا هوش مصنوعی میتواند به رکن اصلی حکمرانی تبدیل شود؟
منبع: arXiv AI