امروزه مدلهای زبانی (LLM) نقش پررنگی در تحلیلهای حساس و مهندسی ایمنی ایفا میکنند، اما خودِ این مدلها هم میتوانند دچار خطا یا توهم شوند. محققان برای اولین بار به سراغ این چالش رفتند که: «وقتی هوش مصنوعی تحلیلگر است، چه کسی باید او را تحلیل کند؟»
این پژوهش با معرفی چارچوب «Constitutional Meta-STPA»، یک چرخه نظارتی بسته ایجاد کرده که به ابزارهای ایمنی مبتنی بر AI کمک میکند تا قوانین حاکمیتی و اصول ایمنی خود را به صورت خودکار استخراج و اجرا کنند. این گام بزرگی برای افزایش قابلیت اطمینان و شفافیت در سیستمهای خودمختار است که از طریق اصول ۲۱گانه ابزار و ۸ اصل فرا-ایمنی محقق میشود.
آینده هوش مصنوعی یعنی سیستمهایی که نهتنها هوشمند، بلکه مسئولیتپذیر و خود-نظارتگر باشند! 🤖✨
منبع: arXiv Machine Learning
