تحقیقات جدید نشان میدهد که تعامل انسان در حلقه (Human-in-the-Loop) تأثیرات متناقضی بر اعتماد کاربران دارد! 📉
محققان در آزمایشهای اخیر خود متوجه شدند که در وظایفی با پاسخهای مشخص (عینی)، وقتی کاربران در اصلاح مدل نقش دارند، برخلاف انتظار، اعتماد آنها به سیستم کاهش مییابد؛ حتی اگر دقت مدل افزایش پیدا کرده باشد. اما در مسائل ذهنی (Subjective)، قضیه متفاوت است. این تحقیق به توسعهدهندگان یادآوری میکند که برای جلب اعتماد کاربران، فقط بهبود دقت کافی نیست و باید روانشناسی تعامل با AI را جدیتر گرفت.
نظر شما چیست؟ آیا وقتی اشتباهات یک مدل هوش مصنوعی را اصلاح میکنید، اعتماد بیشتری به آن پیدا میکنید یا کمتر؟
منبع: arXiv AI