در حالی که اکثر بحثها پیرامون هوش مصنوعی بر «همسوسازی» (Alignment) یا همان ایمنی مدلها متمرکز است، مقاله جدیدی در arXiv مطرح میکند که چالش اصلی ما «مشروعیت» است.
حتی اگر هوش مصنوعی کاملاً ایمن و سودمند باشد، باز هم ممکن است با بحران سیاسی مواجه شود؛ چرا که پرسش اصلی این است: چه کسی به این شرکتهای بزرگ اجازه داده تا قواعدِ دیده شدن، کلام و دانشِ جوامع را تعیین کنند؟
این مقاله به سه چالش اساسی اشاره میکند:
۱. عدم شفافیت (Opacity) که مانع از قضاوت درستِ کاربران میشود.
۲. قدرتِ خصوصی شرکتها که بدون نظارت عمومی اعمال میشود.
۳. اتوماسیون اداری که فرآیندهای تصمیمگیری دولتی را پیچیده کرده است.
به نظر شما، آیا برای فعالیت شرکتهای بزرگ هوش مصنوعی، علاوه بر استانداردهای فنی، به یک «قانون اساسی» برای مشروعیت سیاسی هم نیاز داریم؟
منبع: arXiv AI