🔍 هوش مصنوعی «نامطمئن»؛ چگونه توضیحات مدل‌ها را قابل‌اعتمادتر کنیم؟

یکی از چالش‌های بزرگ در سیستم‌های هوش مصنوعی (XAI)، این است که مدل‌ها معمولاً بدون در نظر گرفتن «میزان عدم قطعیت»، یک پاسخ واحد ارائه می‌دهند.

در پژوهش جدیدی که به‌تازگی منتشر شده، محققان چارچوب جدیدی را برای «هوش مصنوعی توضیح‌پذیر و آگاه از عدم قطعیت» معرفی کرده‌اند. این متد به جای ارائه یک خروجی ساده، توزیعی از احتمالات را در نظر می‌گیرد تا بفهمیم مدل دقیقاً به چه دلیلی به یک نتیجه خاص (مثلاً در تشخیص کیفیت توان الکتریکی) رسیده است.

این رویکرد به ما کمک می‌کند تا در سیستم‌های حساس، بین خطاهای احتمالی و تحلیل‌های دقیق تمایز قائل شویم و اعتماد بیشتری به تصمیمات مدل‌های هوش مصنوعی داشته باشیم.

منبع: arXiv Machine Learning