یکی از بزرگترین چالشهای دنیای هوش مصنوعی، درک این است که ایجنتها چگونه تصمیم میگیرند. محققان به تازگی در مطالعهای جدید روی مدلهای ترنسفورمر در محیط بازی «GOHR» نشان دادند که با استفاده از تکنیک «خودرمزگذارهای پراکنده» (Sparse Autoencoders)، میتوان استراتژیهای داخلی ایجنت را کشف کرد.
این تحقیق نشان میدهد که میتوان مفاهیم انتزاعی و نحوه تغییر استراتژی ایجنت (مثلاً آزمون و خطا پس از دریافت بازخورد منفی) را به سادگی از دل وزنهای مدل بیرون کشید. این گام بزرگی برای افزایش شفافیت و «تفسیرپذیری» رفتارهای هوش مصنوعی است که به ما کمک میکند بفهمیم ایجنتها واقعاً چطور فکر میکنند! 🧠✨
منبع: arXiv Machine Learning