محققان در یک پژوهش جدید، پدیدهی جالبی به نام «فروپاشی مدل جهان» (World-Model Collapse) را در ایجنتهای هوشمند بررسی کردهاند. این مطالعه نشان میدهد که درست مثل تغییر فاز آب (از مایع به بخار)، مدلهای زبانی در انجام کارهای طولانیمدت به یک «نقطهی بحرانی» میرسند.
در این مطالعه مشخص شده که مدلها در مسیرهای طولانی، قبل از اینکه در تصمیمگیری اشتباه کنند، دچار «فساد در درک جهان» میشوند؛ یعنی هوش مصنوعی دیگر دنیا را درست نمیبیند و بر اساس یک مدل ذهنی خراب، اقدام میکند! این یافته، یک چالش اساسی برای آیندهی ایجنتهای خودمختار است که باید برای حل آن راهکارهای دقیقتری پیدا کرد. 🤖📉
منبع: arXiv AI