مدلهای هوش مصنوعی که برای حل مسائل مسیریابی و لجستیک (VRP) استفاده میشوند، معمولاً مثل یک «جعبهسیاه» عمل میکنند؛ یعنی نتیجه را میدهند اما نمیگویند چرا! حالا محققان در مقالهای جدید، پروتکل دوگانهای را برای تحلیل این مدلها طراحی کردهاند.
این روش با ترکیب «پایش کدگذار» (Encoder Probing) و «تفسیرپذیری رمزگشا» (Decoder Attribution)، به ما نشان میدهد که هوش مصنوعی دقیقاً چطور محدودیتهای مسیر را درک میکند و چرا یک تصمیم خاص (مثل انتخاب یک مسیر) را به جای دیگری ترجیح میدهد. این دستاورد میتواند اعتماد اپراتورها به سیستمهای خودکار را در دنیای واقعی بسیار بیشتر کند. 🚛📦
منبع: arXiv AI