محققان در مطالعه جدید خود سراغ موضوع جذابی رفتهاند: اگر یک ابزار (Tool) که ایجنت هوش مصنوعی به آن اعتماد دارد، ناگهان تغییر رفتار دهد یا کاراییاش را از دست بدهد، ایجنت چه واکنشی نشان میدهد؟
این تحقیق با الگوبرداری از روانشناسی شناختی، آزمونی طراحی کرده تا ببیند LLMها چطور در مواجهه با «تغییرات پنهان در قابلیت اطمینان ابزارها» رفتار میکنند. نتایج نشان میدهد که ایجنتها معمولاً خیلی سریع به یک الگوی تکراری و محدود عادت میکنند و در تطبیق خود با شرایط جدید دچار مشکل میشوند. این یافتهها برای توسعهدهندگانی که میخواهند ایجنتهای هوشمندتر و انعطافپذیرتری بسازند، بسیار کلیدی است. 🔍⚙️
منبع: arXiv AI