یکی از چالشهای اصلی مدلهای هوش مصنوعی «جعبهسیاه» بودن آنهاست؛ یعنی نمیدانیم دقیقاً چرا یک تصمیم خاص گرفتهاند. محققان به تازگی زبان پرسوجوی جدیدی به نام «ExplAIner» معرفی کردهاند که به توسعهدهندگان اجازه میدهد خیلی دقیقتر و استانداردتر، منطق پشتِ مدلهای طبقهبندی (Classification Models) را تفسیر و تحلیل کنند.
این ابزار به جای روشهای سنتی و پراکنده، به صورت یکپارچه به سوالات ما درباره دلایل تصمیمات مدل (مثلاً سوالات تقابلی یا مبتنی بر ویژگیها) پاسخ میدهد. این یعنی قدمی بزرگ به سمت هوش مصنوعیِ قابلاعتمادتر و شفافتر! 💡
منبع: arXiv AI