تا حالا فکر کردید وقتی تعداد زیادی از مدلهای هوش مصنوعی (LLM Agents) با هم در ارتباط هستند، چه اتفاقی میافتد؟ آیا آنها به دانش جمعی میرسند یا در دامِ «رفتار گلهای» گرفتار میشوند؟
محققان در مطالعه جدیدی روی ساختار شبکههای اجتماعی این عاملهای هوش مصنوعی، متوجه شدند که وقتی «توجه» (Attention) مدلها محدود باشد، به جای یادگیری جمعی، دچار نوعی گلهروی میشوند. این یعنی برخلاف تصور، لزوماً جمعیت بیشتر هوش مصنوعی به معنای خرد بیشتر نیست!
آنها با معرفی یک چارچوب جدید به نام SNLA، نشان دادند که چطور «تمرکز توجه» میتواند تعیین کند که آیا هوش مصنوعی واقعاً از بقیه تاثیر میگیرد یا فقط کورکورانه از جمعیت تقلید میکند. این تحقیق گام بزرگی برای افزایش اعتماد به سیستمهای چندعاملی در دنیای واقعی است. 🤖✨
منبع: arXiv Machine Learning