محققان به تازگی مقاله جذابی منتشر کردهاند که نگاهی متفاوت به «ارزش» (Value) در هوش مصنوعی دارد. در این پژوهش، ارزش به عنوان یک کمیت ساختاری (مشابه اطلاعات) تعریف شده که نشان میدهد عاملهای هوشمند با چه سرعتی منابع را به پیشرفت در مسیر رسیدن به هدف تبدیل میکنند.
نکته جالب اینجاست که آنها با تست این نظریه روی مدلهای زبانی بزرگ، متوجه شدند که معیارهای محاسباتیشان به شکل عجیبی با توانمندیهای واقعی مدلها همخوانی دارد! این تحقیق به ما کمک میکند تا مفهوم «همسویی» (Alignment) در هوش مصنوعی را نه فقط به عنوان یک دستور اخلاقی، بلکه به عنوان یک شرط پایدارسازی کنترل در سیستمهای هوشمند درک کنیم.
اگر به مباحث عمیقِ تئوریهای حاکم بر مغز و هوش مصنوعی علاقه دارید، این مقاله دیدگاههای فلسفی و ریاضی بسیار جالبی را مطرح میکند.
منبع: arXiv AI