با نزدیک شدن به اجرای قوانین سختگیرانه مثل «قانون هوش مصنوعی اتحادیه اروپا» (EU AI Act)، بحث اعتماد و شفافیت بیش از همیشه داغ شده است. مدلهای هوش مصنوعی معمولاً مثل «جعبه سیاه» عمل میکنند که درک تصمیمگیریشان دشوار است.
در مطالعه جدیدی که با متخصصان حوزه XAI (هوش مصنوعی توضیحپذیر) انجام شده، به این نتیجه رسیدهاند که روشهای XAI میتوانند در شناسایی سوگیریها و خطاهای مدلها بسیار مفید باشند، اما برای «تایید رسمی» (Certification) هنوز محدودیتهایی وجود دارد و نمیتوانند بهتنهایی تضمینکننده امنیت کامل باشند. به نظر شما، چقدر باید به تصمیمات هوش مصنوعی اعتماد کرد؟
منبع: arXiv AI