یکی از چالشهای بزرگ در دنیای هوش مصنوعی، «جعبه سیاه» بودن تصمیمات است. حالا محققان چارچوب جدیدی را معرفی کردهاند که به ایجنتهای هوشمند کمک میکند تا برای تصمیمات خود، دلایل منطقی و قابلفهمی ارائه دهند.
این سیستم با ترکیب اصول علوم اجتماعی و زبان برنامهنویسی ASP، به ایجنتها یاد میدهد که چرا یک مسیر خاص را انتخاب کردهاند و اگر این کار را نمیکردند، چه اتفاق بدی رخ میداد (توضیحات تقابلی). این یعنی هوش مصنوعی نه تنها کار میکند، بلکه میتواند منطق پشت پردهاش را هم برای انسان توضیح دهد! 🧠💡
منبع: arXiv AI