آیا شخصیسازیِ مدلهای هوش مصنوعی (LLMs) میتواند روی «طرز فکر» و نحوه استدلال آنها تاثیر بگذارد؟ یک مطالعه جدید نشان میدهد که وقتی مدلها اطلاعات شخصی کاربر را به یاد میسپارند، صرفاً پاسخها تغییر نمیکنند، بلکه مسیر استدلالی آنها برای رسیدن به آن پاسخ هم دچار «انحراف» (Drift) میشود.
محققان ابزار جدیدی به نام DRIFTLENS را معرفی کردهاند که میتواند این تغییرات در استدلال را اندازهگیری کند. این پژوهش نشان میدهد که این «انحراف حافظهمحور» یک چالش جدی و جدید در مدلهای شخصیسازی شده است که هنوز راهکار کاملی برای رفع آن پیدا نشده.
این یافتهها گام مهمی در جهت ساخت مدلهای شفافتر و قابلاعتمادتر برای تعاملات شخصی است.
منبع: arXiv AI
