امروزه ایجنتهای هوش مصنوعی (Deep Research Agents) میتوانند ساعتها جستجو کنند و گزارشهای مفصل بنویسند. اما یک تحقیق جدید در arXiv نشان میدهد که این سیستمها یک نقطه ضعف بزرگ دارند: «پذیرش دانشهای گمراهکننده»!
محققان با معرفی فریمورک MisKnow-Agent متوجه شدند که حتی اگر اطلاعاتِ غلط، ظاهری موجه داشته باشند، این ایجنتها ممکن است آنها را به عنوان حقیقت مطلق بپذیرند و در گزارش نهایی بگنجانند. جالب اینجاست که حتی وقتی سیستمهای تاییدکننده (Verifier) جداگانه کار میکنند، این اطلاعات غلط باز هم در چرخه تحقیق نفوذ میکنند.
این تحقیق هشدار میدهد که در آینده، برای استفاده از ایجنتهای پژوهشگر، باید به فکر مکانیزمهای دفاعی قویتری باشیم تا فریبِ دادههای ساختگی را نخورند.
منبع: arXiv AI