همیشه یکی از بزرگترین چالشهای هوش مصنوعی، غیرقابل فهم بودن فرآیند تصمیمگیری آن (موسوم به جعبه سیاه) بوده است. حالا یک دستاورد جدید در حوزه «سیستمهای فازی» (Fuzzy Logic) منتشر شده که خبر از یک پیشرفت جذاب میدهد!
محققان با ارائه یک افزونه جدید برای کتابخانه Ex-Fuzzy، روشی طراحی کردهاند که مدلهای رگرسیون را نه تنها دقیق، بلکه «تفسیرپذیر» میکند. در این مدل، خروجیهای هوش مصنوعی به شکل قوانین زبانی ساده (شبیه به تفکر انسانی) بیان میشوند تا متخصصان بتوانند بفهمند سیستم دقیقاً چگونه به یک نتیجه رسیده است.
این یعنی در حوزههای حساس مثل پزشکی یا اقتصاد، دیگر لازم نیست فقط به خروجیهای عجیب مدلها اعتماد کنیم؛ حالا میتوانیم دلیل تصمیمات آنها را به زبان ساده بخوانیم! 📋💡
منبع: arXiv Machine Learning