تصور عمومی این است که مدلهای «دیداری-زبانی-کنشی» (VLA) اگر قبل از انجام عمل، ابتدا استدلال کنند، در برابر اختلالات و نویزهای محیطی مقاومتر میشوند. اما یک تحقیق جدید روی arXiv نتیجهای غافلگیرکننده داشته است!
محققان با بررسی سه نوع مدل (بدون استدلال، زنجیره فکری متنی، و حلقه تکرار شونده)، متوجه شدند که مدلهای دارای «حلقه استدلال نهفته»، در برابر نویز و اختلالات به شدت آسیبپذیرتر هستند. در واقع، این مدلها برخلاف انتظار، عملکردشان تحت فشارهای آزمایشی به شدت افت میکند. این مطالعه زنگ خطری است برای کسانی که به دنبال راهکارهای ایمنی (Safety) مبتنی بر استدلال در رباتیک هستند.
منبع: arXiv AI