محققان راهکار نوآورانهای برای حل یکی از بزرگترین چالشهای هوش مصنوعی ارائه کردهاند: چگونه مدلها میتوانند رفتارهای جدید را بدون نقض استانداردهای ایمنی امتحان کنند؟
این روش که با نام Conformal Policy Control شناخته میشود، به ایجنتهای هوش مصنوعی اجازه میدهد بدون نیاز به تنظیمات پیچیده یا حدس مدل، در محیطهای حساس دست به اکتشاف بزنند. برخلاف روشهای محافظهکارانه قدیمی، این متد با استفاده از کالیبراسیون آماری، ریسک را به دقت کنترل کرده و اجازه میدهد ایجنتها ضمن رعایت مرزهای ایمنی، کارایی خود را در حوزههایی مثل پردازش زبان طبیعی و مهندسی بیومولکولی افزایش دهند. ✨
منبع: arXiv AI
