یک تحقیق جدید و جالب در دنیای تعامل انسان و چتباتها منتشر شده که باورهای قبلی ما رو به چالش کشیده! 🤖💬
محققان برخلاف تصور سنتی، متوجه شدن که «اعتمادِ کاربران به هوش مصنوعی» لزوماً باعث نمیشه اونها دست از چک کردن خروجیها بردارن. در واقع، کاربران هوشمند، نظارت بر خروجی چتبات رو به عنوان بخشی از «حکمرانی دانشی» خودشون میبینن؛ یعنی فراتر از بحث اعتماد، ما برای داشتنِ کنترل بهتر، نیاز داریم خروجیها رو اصلاح و تایید کنیم.
نکته کلیدی اینجاست که حتی وقتی هوش مصنوعی کارش رو درست انجام میده، ما بدون «اعمالِ نظر و کنترل مستقیم»، حس تسلط و رضایت کافی نداریم. این تحقیق پیشنهاد میده که طراحیهای آینده باید روی «ابزارهای نظارتیِ در دسترستر» تمرکز کنن تا تعامل ما با AI حرفهایتر و مطمئنتر بشه. نظر شما چیه؟ شما هم قبل از استفاده از پاسخهای ChatGPT، حتماً اونا رو بازبینی میکنید؟ 🤔
منبع: arXiv AI