🧠 آیا «آموزش مدل» همان «هم‌راستاسازی» است؟ کشف یک رابطه جدید در هوش مصنوعی!

محققان در مقاله جدیدی نشان داده‌اند که انتخاب داده‌های آموزشی (Data Selection) صرفاً یک مرحله فنی نیست، بلکه یک «هم‌راستاسازی ضمنی» (Implicit Alignment) است.

این یعنی انتخاب داده‌ها در حین فاین‌تیونینگ (SFT)، مستقیماً رفتارهای مدل مثل میزان ادب، صراحت، حقیقت‌گویی و حتی مقاومت در برابر جیل‌بریک را تغییر می‌دهد. طبق این پژوهش، استراتژی‌های انتخاب داده (مثلاً بر اساس کیفیت یا تنوع) نقش «پاداش‌دهی» را ایفا می‌کنند؛ بنابراین شاید برای هم‌راستا کردن مدل‌ها، همیشه به تقویت یادگیری (RLHF) نیاز نباشد و هوشمندی در انتخاب داده کافی باشد!

این کشف می‌تواند روش ساخت مدل‌های ایمن‌تر و دقیق‌تر را به‌شدت متحول کند.

منبع: arXiv Machine Learning