🧠 پایان دوران بحث‌های خصمانه؟ رویکرد جدید برای نظارت بر هوش مصنوعی

محققان در مقاله جدیدی، پارادایم «حل اختلاف مشارکتی» (Collaborative Disagreement Resolution) را معرفی کرده‌اند که می‌تواند جایگزین مناسبی برای «مناظره‌های هوش مصنوعی» باشد.

در روش‌های قبلی، مدل‌های هوش مصنوعی سعی می‌کردند با متقاعد کردن داور، برتری خود را ثابت کنند که گاهی به جای حقیقت، به سمت «قدرت اقناع» می‌رفت. حالا در این رویکرد جدید، مدل‌ها مثل دو انسانِ در حالِ میانجی‌گری، سعی می‌کنند به جای پیروزی در بحث، نقاط اختلاف را شناسایی کرده و به سمت «حقیقت» حرکت کنند.

نتایج اولیه نشان می‌دهد که این روش دقت مدل‌ها در شناسایی پاسخ درست را به طرز چشم‌گیری افزایش داده است. این یعنی گامی بزرگ به سوی مدل‌های هوشمندتر و قابل‌اعتمادتر! 🚀

منبع: arXiv AI