محققان در مطالعه جدیدی به نکته جالبی درباره تعامل انسان و هوش مصنوعی دست یافتند. مشخص شده که وقتی ما در طراحی و شخصیسازی «ایجنتهای هوش مصنوعی» (Preference Agents) مشارکت میکنیم، ناخودآگاه دچار «اعتماد کاذب» میشویم!
بررسیها نشان میدهد اگرچه کاربران تصور میکنند این دستیارها دقیقاً طبق سلیقه آنها عمل میکنند، اما نتایج مستقل تفاوت زیادی را نشان میدهد؛ هوش مصنوعی تمایل دارد بسیار قاطعتر و یکنواختتر از انسانها عمل کند. این یعنی فرآیند شخصیسازی میتواند باعث شود ما متوجه خطاهای سیستمی هوش مصنوعی نشویم. در دنیای هوش مصنوعی، همیشه کمی نگاه نقادانه به خروجیها لازم است!
منبع: arXiv AI