🚀 کشف هندسه جدید برای کنترل توهمات هوش مصنوعی! پژوهشگران در مقاله جدیدی تحت عنوان «هندسه معنادار آماری (SMG)»، به سراغ حل یکی از بزرگترین مشکلات مدلهای زبانی بزرگ یعنی «توهم» (Hallucination) و «فراموشی فاجعهبار» رفتهاند. در مدلهای بسیار بزرگ امروزی، روشهای کلاسیک برای یادگیری دیگر پاسخگو نیستند. این رویکرد جدید با استفاده از مفاهیم هندسه دیفرانسیل و منیفولدهای آماری، نویزهای غیرضروری شبکه را حذف کرده و یادگیری را در مسیر درست هدایت میکند. نتیجه؟ یک ساختار هندسی که محدودیتهای سختگیرانهای برای خروجیهای مدل ایجاد کرده و مانع از پرتوپلا گوییهای هوش مصنوعی میشود. این یعنی قدمی بزرگ به سوی مدلهایی که واقعاً قابل اعتمادتر هستند. 🧠✨
منبع: arXiv Machine Learning