با هوشمندتر شدن سیستمهای ایجنتیک (Agentic AI)، چالش اصلی دیگر فقط پیشبینی یا توصیه نیست؛ بلکه نحوه واگذاری «اختیار» به این سیستمهاست. محققان در پژوهش جدید خود مفهومی به نام «مرز خودمختاری واگذار شده» (Delegated-Autonomy Boundary) را مطرح کردهاند.
این مقاله پیشنهاد میدهد که تیمهای توسعهدهنده به جای پنهان کردن سیاستهای تصمیمگیری در کدهای پیچیده، از دو ابزار جدید استفاده کنند:
۱. AJR (سند توجیه ایجنتی): برای ارزیابی اینکه آیا واقعاً به یک ایجنت نیاز داریم یا روشهای سادهتر کافی هستند.
۲. ADP (سیاست واگذاری ایجنتی): برای تعریف دقیقِ میزان اختیار، نظارت و کنترل انسان بر ایجنت (مثلاً در پروژههای حساسی مثل هماهنگی ترخیص بیمار در بیمارستان).
این چارچوب به ما کمک میکند تا ایجنتهایی بسازیم که هم کارآمدتر باشند و هم ایمنتر عمل کنند. نظر شما چیست؟ آیا به ایجنتهایی که تصمیمات مهم میگیرند اعتماد دارید؟
منبع: arXiv AI