🧠 چرا هوش مصنوعی توهم می‌زند؟ کشف یک راز بزرگ!

دانشمندان در پژوهش جدیدی متوجه شدند که توهم‌های مدل‌های زبانی (LLM) همیشه به دلیل «نداشتن دانش» نیست! 🧐

این تحقیق نشان می‌دهد که مدل‌ها گاهی اطلاعات درست را دارند، اما به دلیل «سوگیری در استنتاج» (Inference Misalignment) مسیر اشتباهی را انتخاب می‌کنند؛ یعنی مدل درگیر میانبرهای آماری می‌شود و به جای منطق، به آموخته‌های پرتکرار و سطحی خود تکیه می‌کند. 📉

این تیم برای اثبات این موضوع، بنچمارک TrapQA را معرفی کرده‌اند که نشان می‌دهد چطور «اعتماد بیش از حد به میانبرها» باعث می‌شود مدل‌ها در سوالات ساده دچار اشتباهات عجیب شوند. دانستن این موضوع برای توسعه‌دهندگان مدل‌های هوشمند بسیار حیاتی است تا بتوانند مدل‌های دقیق‌تر و قابل‌اعتمادتری بسازند. 🛠️✨

منبع: arXiv NLP