تأیید و اعتبارسنجی سیستمهای سایبری-فیزیکی و خودروهای خودران همیشه با چالش «کمیابی شکست» روبروست؛ یعنی پیدا کردن لحظهای که سیستم دچار خطا میشود، مثل پیدا کردن سوزن در انبار کاه است!
محققان به تازگی چارچوب جدیدی به نام «DiffTilt» معرفی کردهاند که با استفاده از مدلهای انتشار (Diffusion Models) و تکنیک «تیکتگذاری نمایی» (Exponential Tilting)، احتمال وقوع خطا را در محیطهای شبیهسازیشده افزایش میدهد. این روش باعث میشود به جای صرف هزینههای سنگین برای شبیهسازیهای بیهدف، سیستم هوشمندانه به سمت سناریوهای بحرانی هدایت شود.
این پیشرفت نه تنها دقت تستهای ایمنی را بالا میبرد، بلکه به ما کمک میکند قبل از وقوع حوادث در دنیای واقعی، باگهای پنهان سیستمهای هوشمند را شناسایی کنیم.
منبع: arXiv Machine Learning