تا حالا فکر کردید چرا مدلهایی مثل ChatGPT گاهی ناگهان دچار توهم شده یا پاسخهای نامناسب میدهند؟ 🤖
محققان در یک پژوهش جدید و هیجانانگیز، مکانیزم جالبی را کشف کردهاند: این رفتارها که «Tipping» نام دارند، در واقع نتیجه تعاملات پیچیده بین توکنها (درست مثل چرخشهای ذرات در فیزیک) هستند. طبق این مقاله، این اتفاقات یک خطای تصادفی نیستند، بلکه «ریسکهای مهندسی قابل پیشبینی» محسوب میشوند.
این کشف جدید نه تنها درک ما را از نحوه کارکرد مدلهای زبانی تغییر میدهد، بلکه میتواند در مباحث حقوقی و اخلاقی هوش مصنوعی نیز بسیار تأثیرگذار باشد. با این تحلیل، شاید در آینده مدلهای ایمنتری داشته باشیم! 🚀
منبع: arXiv AI