آیا تا به حال فکر کردهاید که چگونه میتوانیم از هوش مصنوعی بخواهیم قضاوتهای انسانی را تایید کند؟ یکی از روشهای جذاب، «مناظره» میان دو مدل هوش مصنوعی است. اما محققان با مشکلی به نام «استدلالهای مبهم» مواجه شدهاند که در آن یک مدل فریبکار، رقیب خود را به بنبست محاسباتی میکشاند.
در پژوهش جدیدی که روی arXiv منتشر شده، پروتکل جدیدی برای «مناظره بازگشتی» ارائه شده که جلوی این تقلبها را میگیرد. این یعنی مدلها حالا میتوانند مسائل پیچیده را به بخشهای سادهتر تقسیم کرده و با عدالت بیشتری به نتایج درست برسند، بدون اینکه هزینههای محاسباتی سرسامآوری داشته باشند. قدمی مهم در جهت افزایش امنیت و صحت عملکرد سیستمهای هوشمند! 🛡️✨
منبع: arXiv AI