محققان در یک پژوهش جدید، به سراغ تحلیل ساختار هندسی نهفته در مدلهای زبانی (LLM) رفتهاند تا بفهمند این مدلها چطور اطلاعات را در خود ذخیره میکنند. 📐
آنها با ابداع روشی به نام «Riemannian Mean Pooling» (RMP) متوجه شدند که استفاده از هندسه ریمانی برای تحلیل امبدینگهای مدل، نه تنها دقت طبقهبندی متن را در مقایسه با روشهای کلاسیک (Euclidean) افزایش میدهد، بلکه به ما کمک میکند تا بهتر بفهمیم مدلها چطور مفاهیم را در فضای برداری خود بازنمایی میکنند.
این تحقیق گام مهمی در جهت «تفسیرپذیری» (Interpretability) و امنیت بیشتر مدلهای هوش مصنوعی است. 🔍✨
منبع: arXiv AI