🔍 کشف یک نقص بزرگ در مدل‌های هوش مصنوعی: توهم هوشمندی!

محققان در مطالعه جدیدی روی مدل‌های جهان (World Models) به نکته عجیبی برخورد کرده‌اند؛ برخی مدل‌هایی که ظاهراً در درک دستورات فضایی (مثلاً «بلوک قرمز را سمت چپ بلوک آبی بگذار») عالی عمل می‌کنند، در واقع فقط متن دستور را رونویسی می‌کنند، نه اینکه واقعاً محیط را درک کنند! 🤖

این پدیده که «نشت دستورالعمل» (Instruction Leakage) نامیده شده، نشان می‌دهد که گاهی دقت بالای مدل‌ها صرفاً یک توهم آماری است. پژوهشگران پیشنهاد می‌دهند برای حل این مشکل، اهداف از بخش دینامیک مدل جدا شوند تا هوش مصنوعی به جای «تقلب»، واقعاً محیط را درک کند. این یک قدم مهم برای رسیدن به مدل‌های قابل‌اعتمادتر است! 🚀

منبع: arXiv AI