پژوهشگران در مطالعهای جدید به بررسی رفتار عاملهای هوش مصنوعی (LLM Agents) در بازارهای شبیهسازی شده پرداختهاند. نتیجه جالب این است که وقتی عاملهای خودخواه کنار هم قرار میگیرند، برای جلوگیری از هرجومرج و شکست بازار، به مکانیزمهای «میانجیگری» (Mediation) نیاز دارند.
نکته کلیدی این آزمایش، «تست نفوذ» یا همان Red-Teaming بود؛ جایی که با تزریق عاملهای خرابکار (Troll)، مقاومت سیستم تست شد. نتیجه؟ سیستمهای میانجیگر توانستند در برابر حملات ایستادگی کنند و بازار را حتی تحت فشار، پایدار نگه دارند. این یعنی در آیندهای که ایجنتها جایگزین ما در تعاملات اقتصادی میشوند، طراحی پروتکلهای نظارتی اهمیت حیاتی دارد. 📈⚖️
منبع: arXiv AI