امروزه شرکتهای زیادی ادعا میکنند که سیستمهای هوش مصنوعی «مسئولانه» (Responsible AI) میسازند، اما چطور میتوانیم مطمئن شویم که این ادعاها واقعی هستند یا فقط جنبه تبلیغاتی دارند؟
محققان در یک پژوهش تازه، از «شکاف اعتماد» در صنعت هوش مصنوعی پرده برداشتهاند. مشکل اینجاست که در حال حاضر هیچ استاندارد بینالمللی یا نظام گواهیدهی مستقلی وجود ندارد که بتواند خروجیهای واقعی و قابل اعتماد یک مدل را از مدلهای ناایمن تشخیص دهد.
پیشنهاد این تحقیق ایجاد یک سازوکار مشابه استانداردهای پزشکی یا امنیتی است تا به جای تمرکز صرف بر فرآیندهای داخلی شرکتها، «نتایج واقعی و قابلسنجش» هوش مصنوعی برای کاربران و جامعه شفاف شود. به نظر شما آیا زمان آن رسیده که هوش مصنوعی هم مثل محصولات صنعتی، «نشان استاندارد» دریافت کند؟
منبع: arXiv AI