یکی از چالشهای اصلی استفاده از مدلهای زبانی بزرگ (LLM) در کارهای حساس، احتمال بروز خطاست. محققان به تازگی برای حل این مشکل، راهکار جدیدی به نام «پیشبینی انتخابی» (Selective Prediction) را مطرح کردهاند.
در این روش که با استفاده از تکنیک جدیدی به نام RLSR (یادگیری تقویتی برای پاداش انتخاب) پیادهسازی شده، مدل هوشمند یاد میگیرد که فقط زمانی پاسخ دهد که از دقتِ خود مطمئن است. در غیر این صورت، سوال را به انسان ارجاع میدهد تا ریسکِ تصمیمگیری به حداقل برسد. این یک گام بزرگ برای کاربردهای تجاری و حساس هوش مصنوعی است که دقت را فدای سرعت نکند.
منبع: arXiv AI