محققان در تلاش برای مقیاسپذیری مدلهای زبانی (LLM) بدون نیاز به دخالت انسانی، به راهکار جدیدی دست یافتهاند. روش «ضعیف به قوی» (Weak-to-strong generalization) که به مدلهای قویتر اجازه میدهد از خروجی مدلهای ضعیفتر یاد بگیرند، معمولاً با مشکل نویز و سوگیری مواجه است.
در مقاله جدیدی که منتشر شده، چارچوب نوآورانهای به نام «ConG» معرفی شده است که با استفاده از «رمزگشایی تقابلی» (Contrastive Decoding)، نویزهای خروجی را حذف کرده و کیفیت آموزش مدلها را بهطور چشمگیری بهبود میدهد. این دستاورد یک گام مهم برای افزایش پایداری مدلهای هوش مصنوعی و مسیر رسیدن به هوش مصنوعی عمومی (AGI) محسوب میشود.
منبع: arXiv AI