دانشمندان در پژوهشی جدید نشان دادند که استفاده از معماریهای متمرکز (مانند شبکههایی با هابهای قدرتمند) در سیستمهای هوش مصنوعی چند-عامله (Multi-Agent)، به جای بهبود عملکرد، باعث ایجاد «رانش معنایی» (Semantic Drift) شدید میشود. این یعنی در سیستمهای تشخیصی (بهویژه در حوزه پزشکی)، هوش مصنوعی ممکن است در اثر ارتباط بین عاملها، دچار توهمهای سیستماتیک شده و دقت خود را تا بیش از ۵۰ درصد از دست بدهد!
نتیجهگیری مهم این مطالعه: برخلاف تصورات قبلی، افزایش تعداد ایجنتها در ساختارهای خوشهای نه تنها خطا را کاهش نمیدهد، بلکه منجر به انباشت خطا و غیرقابل پیشبینی شدن خروجی سیستم میشود. این یک زنگ خطر برای توسعهدهندگانی است که روی پروژههای حساسِ خودمختار کار میکنند.
منبع: arXiv AI