یکی از بزرگترین چالشهای هوش مصنوعی، «جعبه سیاه» بودن آن است. حالا محققان معماری جدیدی به نام TT-Sparse را معرفی کردهاند که به مدلها اجازه میدهد با استفاده از «جداول حقیقت» (Truth Tables) یاد بگیرند و در عین حال، خروجیهای بسیار دقیق و در عین حال قابلفهم (تفسیرپذیر) ارائه دهند.
ویژگی کلیدی این مدل، توانایی تبدیل عملیاتهای پیچیده عصبی به فرمولهای منطقی ساده (مثل DNF/CNF) است. این یعنی خروجی مدل برای انسان کاملاً قابل بررسی و اعتماد است؛ موضوعی که در حوزههای حساس مثل پزشکی یا تصمیمگیریهای مالی حیاتی است. در تستهای انجام شده، این مدل نه تنها شفافیت بیشتری دارد، بلکه از نظر دقت هم از روشهای فعلی پیشی گرفته است. 🚀
منبع: arXiv Machine Learning