تا حالا فکر کردید چرا یک مدل هوش مصنوعی یک تصویر را به اشتباه طبقهبندی میکند؟ محققان بهتازگی ابزار جدیدی به نام ReX معرفی کردهاند که با استفاده از مفاهیم «علیت واقعی» (Actual Causality)، دقیقترین و کوچکترین توضیحات را برای عملکرد مدلهای طبقهبندی تصویر ارائه میدهد.
ویژگی مهم این ابزار، «جعبهسیاه» بودن آن است که باعث میشود بدون نیاز به دسترسی به ساختار داخلی مدل، بتواند منطق تصمیمگیری آن را تحلیل کند. این یعنی گامی بزرگ به سوی مدلهای هوش مصنوعی شفافتر و قابلاعتمادتر! 💡
منبع: arXiv AI
