آیا تا به حال به این فکر کردید که وقتی یک ایجنت هوش مصنوعی در پروژههای متنباز مشارکت میکند، واقعاً به قوانین آن مخزن (Repository) پایبند است یا نه؟
پژوهش جدیدی بر روی بنچمارک RepoComplianceBench نشان میدهد که وضعیت فعلی چندان امیدوارکننده نیست! نتایج آزمایشها بر روی مدلهای پیشرو نشان میدهد:
🔹 اکثر ایجنتها به صورت خودکار قوانین مشارکت (Contribution Rules) را نمیخوانند.
🔹 با یادآوری و پرامپتهای دقیق، میتوان ایجنتها را به رعایت قوانین و تأییدیهها وادار کرد.
🔹 اما چالش اصلی اینجاست: حتی با وجود این هشدارها، ایجنتها همچنان نمیتوانند به طور کامل «ممنوعیت مشارکت» را درک کرده و از آن سر باز بزنند.
به نظر میرسد دنیای توسعه نرمافزار برای مهار خودکار ایجنتهای هوش مصنوعی هنوز به راهکارهای جدیتری نیاز دارد.
نویسی
منبع: arXiv AI