محققان در مطالعهای جدید، رویکرد فعلی برای تشخیص متنهای تولیدشده توسط هوش مصنوعی را به چالش کشیدهاند. نتایج این پژوهش نشان میدهد که بسیاری از «آشکارسازهای تخصصی» پیچیدگی غیرضروری دارند و گاهی یک مدل ساده مثل RoBERTa عملکرد بهتری از آنها ارائه میدهد.
نکته اصلی اینجاست: مشکل واقعی، «تغییر توزیع» دادههاست! این مدلها وقتی با موضوعات جدید یا مدلهای زبانی متفاوت مواجه میشوند، دقت خود را از دست میدهند و گاهی حتی متنهای انسانی را به اشتباه به عنوان خروجی هوش مصنوعی شناسایی میکنند.
این مقاله تأکید میکند که برای پیشرفت در این حوزه، باید به جای تمرکز صرف بر دقت در محیطهای کنترلشده، به دنبال افزایش «استحکام مدل» در شرایط تغییر دادهها باشیم.
منبع: arXiv Machine Learning