محققان در یک پژوهش جدید، چالش جالبی را در فرآیند RLHF (یادگیری تقویتشده از بازخورد انسانی) شناسایی کردهاند. مدلهای فعلی معمولاً فرض میکنند که انتخابهای انسان بر اساس یک تفاوت پاداش مشخص است، اما این مطالعه نشان میدهد که «توجه محدود» (Limited Attention) انسان، دقت این قضاوتها را به شدت تحت تأثیر قرار میدهد.
به زبان ساده: گاهی اوقات مدلها نه به خاطر کیفیت بهتر، بلکه به دلیل خطاهای انسانی در تشخیص، رتبههای متفاوتی میگیرند. این یافته جدید ثابت میکند که برای آموزش هوش مصنوعی بهتر، باید به جای تمرکز صرف بر تعداد دادهها، به «کیفیت توجه» در هر بررسی انسانی دقت بیشتری کرد. 🔍✨
منبع: arXiv AI