آیا هوش مصنوعی که برای پاسخ به سوالات عمومی طراحی شده، قابل اعتماد است؟ پژوهش جدیدی روی یک سرویس دولتی در ایسلند نشان میدهد که بین «دسترسی به منابع آنلاین» و «اعتماد به پاسخها» یک تعادل دشوار وجود دارد:
✅ استفاده از منابع محلی (RAG): پاسخها بسیار معتبرتر و دقیقتر هستند، اما دامنه اطلاعات محدود است.
🌐 استفاده از جستجوی وب: پاسخهای متنوعتر و گستردهتری دریافت میشود، اما احتمال استفاده از منابع نامعتبر یا غیرمرتبط به شدت افزایش مییابد!
این تحقیق نشان میدهد که اعتماد به LLMها در حوزههای حساس عمومی، هنوز نیازمند ترکیبی هوشمندانه از منابع معتبر است تا شاهد «توهم» یا «اطلاعات نادرست» نباشیم.
منبع: arXiv NLP