تا حالا فکر کردید اگر یک هوش مصنوعیِ مامور (Agentic AI) دادههای غلط اما «درستنما» دریافت کنه، چه اتفاقی میافته؟ محققان در پژوهش جدید SARC-DQ به این نتیجه رسیدن که حتی قدرتمندترین مدلها هم در برابر خطاهای «متا-دیتا» (مثل قیمتهای قدیمی یا اسناد منقضیشده) کاملاً آسیبپذیرند و به طور خودکار دچار اشتباهات پرهزینه میشن.
نکته جالب اینجاست: افزایش توانمندی مدل، لزوماً به معنای افزایش «شکاک بودن» اون نسبت به دادهها نیست! این تیم یک سیستمِ دروازهبان (Gate) طراحی کردن که قبل از عملیاتی شدنِ دستوراتِ ایجنت، کیفیت دادهها رو چک میکنه و به شکل چشمگیری مانع از تصمیمات غلط میشه.
این تحقیق نشون میده که کیفیتِ داده و یکپارچگیِ شواهد، موضوعی جدا از توانمندی مدلهای زبانیه و برای داشتن سیستمهای ایجنتیکِ قابل اعتماد، باید فراتر از آموزش مدل فکر کنیم.
🔗 مطالعه بیشتر و دسترسی به کدها:
https://github.com/besanson/dqSarc
منبع: arXiv AI