🔍 پایداری باورها در هوش مصنوعی: چرا مدل‌ها گاهی حرف خود را عوض می‌کنند؟

محققان در مطالعه‌ای جدید به سراغ چالشی رفتند که کمتر به آن توجه شده است: «ثبات باورها». آیا هوش مصنوعی با تغییرات کوچک در صورت‌بندی سوالات، همچنان روی حرف خود می‌ماند؟

این تیم با معرفی چارچوب P-StaT متوجه شدند که آشنایی مدل با مفاهیم (Epistemic Familiarity) نقش کلیدی در ثبات پاسخ‌های آن دارد. در واقع وقتی مدل با مفاهیم ناآشنا یا انتزاعی روبرو می‌شود، نرخ تغییر نظر یا ابهام در آن به شدت افزایش می‌یابد (گاهی تا بیش از ۵۰ درصد!).

این تحقیق نشان می‌دهد که برای ارزیابی دقیق هوش مصنوعی، نباید فقط به «دقت» (Accuracy) تکیه کرد، بلکه باید «پایداری» (Stability) را هم در اولویت گذاشت تا مدل‌های قابل‌اعتماد‌تری بسازیم.

این دستاورد می‌تواند گام مهمی در بهبود هوش مصنوعی برای استفاده به عنوان منابع اطلاعاتی دقیق‌تر باشد.

منبع: arXiv NLP