در یادگیری تقویتی (Reinforcement Learning)، سیستمها معمولاً سعی میکنند هزینههای کلی را کاهش دهند، اما این روش در برابر «اتفاقات نادر ولی فاجعهبار» (Tail Events) ضعیف عمل میکند.
محققان به تازگی مدل SteinGate را معرفی کردهاند که با استفاده از «Stein Discrepancy»، به جای تکیه بر احتمالات عمومی، بهطور مداوم وضعیت ایمنی مدل را در طول آموزش چک میکند. این ابزار دقیقاً مثل یک نگهبان هوشمند عمل میکند؛ به محض اینکه رفتار سیستم از محدوده ایمن خارج شود، مدل به حالت بازیابی تغییر وضعیت میدهد.
این نوآوری به معنای آموزشهای ایمنتر و دقیقتر برای رباتها و سیستمهای کنترلکننده است که نه تنها عملکرد بهتری دارند، بلکه احتمال بروز خطاهای بحرانی را به شدت کاهش میدهند.
منبع: arXiv AI