یکی از بزرگترین چالشهای استفاده از هوش مصنوعی در سیستمهای مالی و بانکی (مثل استانداردهای ICAAP و CCAR)، «جعبه سیاه» بودن مدلهاست که امکان بررسی و حسابرسی را سخت میکند.
محققان در مقاله جدیدی، چارچوب نوآورانه SHARC را معرفی کردهاند. این ابزار با استفاده از تکنیک SHAP، مدلهای پیشرفته یادگیری ماشین را برای نهادهای نظارتی قابلفهم میکند تا بتوان دقیقاً دید که در شرایط بحرانی (مثل بحرانهای اقتصادی یا ریسکهای اقلیمی)، هوش مصنوعی چگونه تصمیم میگیرد و چه عواملی در خروجیهای ریسک تأثیرگذار بودهاند. این گام بزرگی برای پذیرش مدلهای پیشرفته ML در بازارهای مالی حساس است! 🏦💡
منبع: arXiv Machine Learning