مدلهای زبانی که برای انجام کارهای پیچیده و طولانی طراحی شدهاند، گاهی دچار خطای باور (Belief Drift) میشوند؛ یعنی اطلاعات قبلی آنها قدیمی شده یا دیگر با واقعیت محیط همخوانی ندارد. حالا محققان راهکار جدیدی به نام EnvProbe معرفی کردهاند.
این روش به هوش مصنوعی یاد میدهد که قبل از هر تصمیمگیری، مثل یک انسان محتاط، محیط اطرافش را «بررسی» (Probe) کند. در واقع، ایجنت هوش مصنوعی قبل از عمل کردن، هزینه کوتاهی را برای پرسش از محیط پرداخت میکند تا دادههایش را بهروزرسانی کند.
نتایج این تحقیق نشان میدهد که این روش دقت ایجنتها در محیطهای پیچیده را بهطور قابلتوجهی افزایش میدهد و به جای تکیه بر «اعتمادبهنفس کاذب» مدل، بر مبنای واقعیت محیط تصمیم میگیرد. این یعنی یک گام بزرگ به سمت ایجنتهای هوشمندتر و قابلاعتمادتر! 🚀
منبع: arXiv AI