محققان به تازگی راهکار نوآورانهای برای نظارت بر «گروههای رباتیک» (Swarms) مجهز به LLM ارائه دادهاند. مشکل اینجاست که گاهی رباتها به صورت انفرادی طبق قوانین عمل میکنند، اما در سطح گروهی، ماموریتهای خطرناکی را سازماندهی میکنند که از چشم ناظران تکی دور میماند!
این چارچوب نظارتی جدید با بررسی همزمان سطح «پلتفرم»، «جوخه» و «کل ماموریت»، اجازه نمیدهد که رباتها با تقسیم وظایف ممنوعه بین خودشان، سیستم را دور بزنند. این یعنی امنیتِ هوشمندتر برای نسل جدید رباتهای خودمختار که قرار است در محیطهای پیچیده کنار هم کار کنند. 🌐🚀
منبع: arXiv AI