مدلهای یادگیری ماشین حالا در حوزههای حساسی مثل «پزشکی» و «قضاوتهای حقوقی» نقش پررنگی دارند، اما سنجش اینکه این مدلها در دنیای واقعی چه تأثیر علیّ (Causal Impact) دارند، همیشه یک چالش بزرگ بوده است.
محققان در یک پژوهش جدید، روشی نوآورانه برای ارزیابی اثرگذاری مدلهای جدید ارائه دادهاند. آنها با استفاده از «دادههای کارآزماییهای تصادفی قبلی» و معرفی مفهوم «درستیِ خلافواقع» (Counterfactual Correctness)، توانستهاند محدودههای دقیقتری برای پیشبینی عملکرد مدل در شرایط حساس تعریف کنند. این یعنی با این روش میتوانیم با اطمینان بیشتری به مدلهای هوش مصنوعی در تصمیمگیریهای حیاتی اعتماد کنیم.
این تحقیق گام مهمی در جهت افزایش شفافیت و مسئولیتپذیری الگوریتمها در جوامع انسانی است. 💡🧠
منبع: arXiv Machine Learning