محققان در مقاله جدیدی به یک چالش جدی در مدلهای یادگیری درونمتنی (ICL) برای دادههای جدولی پرداختهاند. مسئله اینجاست: مدلهای هوش مصنوعی گاهی به جای یادگیری «الگوی اصلی» (مثل سلامت بیمار)، به «نویزهای محیطی» (مثل اثر دستگاههای پزشکی خاص) تکیه میکنند. 📉
نتیجه این «انحراف سیگنال» این است که وقتی مدل را در بیمارستانی با تجهیزات متفاوت مستقر میکنیم، عملکرد آن بهشدت افت میکند. نکته عجیب اینجاست که افزایش بافت (Context) نهتنها این مشکل را حل نمیکند، بلکه در موارد خاص باعث میشود مدل با اطمینان بیشتری به این نویزهای کاذب متکی شود! این پژوهش راهکارهای سبکی برای مقابله با این پدیده پیشنهاد داده که برای توسعهدهندگان سیستمهای هوشمند پزشکی حیاتی است. 🏥✨
منبع: arXiv AI