درک اینکه چرا یک سیستم هوش مصنوعی در شرایط بحرانی تصمیم خاصی میگیرد، همیشه یکی از چالشهای بزرگ بوده است. محققان به تازگی از چارچوب جدیدی به نام NeSy-CSA رونمایی کردهاند که با ترکیب قدرت شبکههای عصبی و استدلال نمادین (Neuro-Symbolic)، به ما کمک میکند دلیلِ پشت تصمیمات بحرانی را به شکلی شفاف و قابل ردیابی بفهمیم.
این روش به جای حدس و گمان، با انتخاب عوامل کلیدی و ساخت یک «گراف شواهد»، فرآیند تصمیمگیری را برای انسان قابل فهم میکند. این یعنی گامی بزرگ به سمت هوش مصنوعیِ قابل اعتمادتر در سیستمهای حساس! 🚀
منبع: arXiv Machine Learning