تصور کنید در آینده، یک «ایجنت شخصی» هوشمند دارید که کارهایی مثل چانه زدن برای تخفیف، تغییر اشتراکها یا حل اختلافات در پشتیبانی شرکتها را برایتان انجام میدهد. اما یک چالش بزرگ وجود دارد: این هوش مصنوعیها چقدر به حریم خصوصی ما وفادارند؟
محققان بهتازگی بنچمارک جدیدی به نام «SovereignNegotiation-Bench» معرفی کردهاند تا بررسی کنند این ایجنتها چطور میتوانند بدون فاش کردن اطلاعات حساس یا قربانی کردن منافع کاربر، بهترین توافق را برای ما انجام دهند.
نتایج نشان میدهد ایجنتهایی که فقط روی «بستن قرارداد» تمرکز دارند، معمولاً حریم خصوصی کاربر را نادیده میگیرند. اما مدلهای جدیدتر یاد گرفتهاند چطور با حفظ تعادل بین منافع کاربر و مهارت مذاکره، واقعاً در خدمت ما باشند. آیندهی دستیارهای شخصیِ مذاکرهکننده در راه است! ⚖️🔐
منبع: arXiv AI