تحقیقات جدید نشان میدهد که با بزرگتر شدن مدلهای زبانی (LLMs)، اگرچه دقت پایه آنها افزایش مییابد، اما احتمال بروز «توهم» (Hallucination) به شکلی خطرناک رشد میکند! 📉
این مطالعه جذاب فاش کرده که مدلهای بزرگتر وقتی اشتباه میکنند، این خطاها مثل یک گلوله برف بزرگتر میشود؛ مدل با انتخاب یک کلمه اشتباه با احتمال پایین، به آن متکی شده و در زنجیرهای از پاسخهای غلط غرق میشود. جالب اینجاست که مدل در این لحظات دچار «اعتماد به نفس کاذب» میشود و حتی ابزارهای نظارتی داخلی خودش هم متوجه این خطا نمیشوند. 🤖❌
خبر خوب اینکه محققان راهکارهایی برای کنترل این «واریانس» پیدا کردهاند که میتواند نرخ توهم را تا ۷۴ درصد کاهش دهد. این یعنی بزرگتر بودن همیشه به معنای باهوشتر بودن نیست!
منبع: arXiv AI