یکی از بزرگترین چالشهای مدلهای زبانی بزرگ (LLM)، پدیده «توهم» یا همان تولید اطلاعات غلط و ساختگی است. حالا محققان در مقالهای جدید، رویکرد هوشمندانهای به نام CHARM را معرفی کردهاند که با نگاه کردن به هوش مصنوعی به شکل یک «گراف» (که در آن توکنها و ارتباطاتِ توجه یا Attention به عنوان گره و یال تعریف میشوند)، توهمات مدل را با دقت بسیار بالاتری شناسایی میکند.
این روش که بر پایه یادگیری گراف (GNN) است، نه تنها از روشهای قدیمی دقیقتر عمل میکند، بلکه در تستهای مختلف هم عملکرد فوقالعادهای از خود نشان داده است. این یعنی قدمی دیگر به سمت هوش مصنوعیِ قابلاعتمادتر و دقیقتر! 🤖✨
منبع: arXiv Machine Learning
