آیا هوش مصنوعی واقعاً به منابع درستی ارجاع میدهد؟ محققان در مطالعه جدیدی نشان دادهاند که سیستمهای ایجنتیک (Agentic) که متون علمی را تحلیل میکنند، در ارزیابیِ دقتِ استنادات خود با چالشهای جدی روبرو هستند.
🔹 مشکل کجاست؟
نکته اینجاست که ابزارهای فعلی برای بررسیِ «صحت استنادات»، خودشان غیرقابل اعتمادند! نرخ خطای ارجاعات بسته به سختگیریِ سیستم، بین ۳ تا ۱۸ درصد متغیر است که باعث میشود نتایج مدلهای مختلف با هم قابل مقایسه نباشند.
🔹 راهکار چیست؟
محققان پروتکل جدیدی را برای ارزیابی «اعتبار استنادات» معرفی کردهاند که با استفاده از لایههای آماری (Split-conformal)، تضمین میکند که ارجاعات هوش مصنوعی به منابع علمی دقیقتر و قابلاعتمادتر باشند.
این گام بزرگی برای حرفهایتر شدن هوش مصنوعی در محیطهای پژوهشی و علمی است! 💡
منبع: arXiv AI