محققان به کشف عجیبی دست یافتهاند: مدلهای زبانی (LLM) مثل GPT، Claude و Gemini تمایل دارند نامهای خاصی را بهصورت ترکیبی و تکرار شونده در متون خود بسازند (مثلاً «النا واسکز» همیشه با «مارکوس چن» همراه است).
این فقط یک بازی نیست! بررسیها نشان میدهد بیش از ۱۶۰۰ مقاله با نویسندگان خیالی در مخازن علمی ثبت شدهاند که نشاندهنده یک بحران جدید در تولید محتوای فیک و اعتبار انتشارات آکادمیک توسط هوش مصنوعی است. این «شبحنویسها» حالا در پایگاههایی مثل ResearchGate هم دیده میشوند و گروههای تحقیقاتی مصنوعی تشکیل دادهاند! 😱
این خبر زنگ خطری جدی برای اعتبار دادههای علمی در عصر هوش مصنوعی است. نظر شما چیست؟ آیا باید برای اصالت مقالات علمی به دنبال روشهای احراز هویت جدید باشیم؟
منبع: arXiv Machine Learning