⚠️ وقتی هوش مصنوعی به منابع علمی «دروغ» می‌گوید!

آیا می‌دانستید برخی از مقالات علمی که در کنفرانس‌های معتبر هوش مصنوعی ارائه می‌شوند، حاوی منابع «خیالی» هستند؟ 🧐

محققان در پژوهش جدیدی متوجه شدند که مدل‌های زبانی گاهی ارجاعات علمی کاملاً ساختگی (Hallucinated Citations) ایجاد می‌کنند که حتی از سد داوری همسالان (Peer Review) نیز عبور کرده‌اند!

این مطالعه نشان می‌دهد که با وجود نرخ خطای پایین (زیر ۱٪)، به دلیل حجم بالای مقالات، در برخی کنفرانس‌های بزرگ مثل NeurIPS و USENIX، از هر بیست مقاله، یکی حداقل دو منبع جعلی دارد. ابزار جدیدی به نام «RefChecker» برای شناسایی خودکار این ارجاعات کاذب معرفی شده تا اعتبار متون علمی حفظ شود.

این خبر هشداری جدی برای دنیای علم و پژوهش است تا در استفاده از هوش مصنوعی برای نگارش متون تخصصی، دقت بیشتری به خرج دهند. 🔍📚

منبع: arXiv AI