بسیاری از روشهای «هوش مصنوعی قابلتفسیر» (XAI) که امروزه معرفی میشوند، علیرغم پیچیدگی فنی، در عمل تأثیر کمی روی فرآیندهای کاری واقعی دارند. در یک مقاله پژوهشی جدید، محققان هشدار دادند که جامعه هوش مصنوعی باید از روشهای صرفاً «آد-هاک» و مقطعی دست بردارد و تمرکز خود را به چالشهای بنیادیتر تغییر دهد.
این مطالعه تأکید میکند که به جای ارائه توضیحات پراکنده، باید روی ساختارهای یکپارچه و سیستمهای «انسان-در-حلقه» کار کنیم تا هوش مصنوعی واقعاً قابلیت پاسخگویی و یادگیری از بازخورد انسانی را داشته باشد. به نظر شما آیا هوش مصنوعی بالاخره میتواند «دلیل» کارهایش را به درستی برای ما توضیح دهد؟
منبع: arXiv Machine Learning