یک مطالعه علمی جدید نشان داده است که مدلهای بزرگ زبانی (LLMs) در برخورد با ادعاهای شبهعلمی، رفتارهای بسیار متناقضی دارند. محققان با بررسی مدلهای معروفی مثل GPT، Gemini، Claude و Grok متوجه شدند که «پیکربندی استقرار» مدلها تأثیر مستقیمی بر اعتباربخشی آنها به اطلاعات نادرست دارد.
نکات کلیدی این گزارش:
🔹 تفاوت فاحش در امتیازدهی به ادعاهای نادرست بین مدلهای مختلف (مثلاً عملکرد عجیب مدل Grok در مقایسه با سایر رقبا).
🔹 تأثیر محیطهای مختلف (API در مقابل وب) بر خروجی یک مدل واحد.
🔹 تغییرات ناگهانی و بدون توضیح در رفتار مدلها پس از بهروزرسانیهای بیسروصدا (Silent Patches).
این تحقیق هشدار میدهد که آنچه ما از هوش مصنوعی دریافت میکنیم، تنها دانش مدل نیست، بلکه نتیجهی مستقیم سیاستهای اجرایی و تغییراتی است که شرکتهای سازنده پشت پرده اعمال میکنند. در عصر استفاده از چتباتها به عنوان مرجع دانش، این یافتهها زنگ خطری برای شفافیت بیشتر است. ⚠️
منبع: arXiv AI