📉 آیا هوش مصنوعی در حال بلعیدن خودش است؟ پدیده «فروپاشی مدل» چیست؟

حتماً شنیده‌اید که وقتی مدل‌های زبانی (LLMs) با داده‌های تولید شده توسط خودشان آموزش می‌بینند، کیفیت خروجی آن‌ها به مرور افت می‌کند؛ پدیده‌ای که به آن «Model Collapse» یا فروپاشی مدل می‌گوییم.

در پژوهشی جدید، محققان برای اولین بار این چالش را از دیدگاه «نظریه یادگیری» بررسی کرده‌اند. آن‌ها با استفاده از مفهومی به نام «Replay Adversary»، نشان داده‌اند که چگونه بازگشت داده‌های تولید شده توسط مدل به چرخه آموزش، می‌تواند منجر به محدودیت‌های جدی در یادگیری شود. این مطالعه ثابت می‌کند که چرا تکنیک‌هایی مثل فیلتر کردن داده‌ها و واترمارک‌گذاری، نه فقط یک سلیقه، بلکه ضرورتی برای جلوگیری از نابودی هوش مصنوعی در آینده هستند! 🧠⚠️

منبع: arXiv Machine Learning