💡 هوش مصنوعی حالا می‌تواند «توضیح» دهد چه چیزی کشف کرده است!

تا امروز، اکثر مدل‌های هوش مصنوعی وقتی دسته‌بندی‌های جدیدی در داده‌های بدون برچسب پیدا می‌کردند، این کار را در فضاهای پیچیده و غیرقابل فهم انجام می‌دادند؛ یعنی مدل می‌فهمید که داده‌ها با هم فرق دارند، اما نمی‌توانست بگوید دقیقاً «چرا».

محققان در مقاله جدید خود فریم‌ورک xNCD را معرفی کرده‌اند که این مشکل را حل می‌کند. این مدل با استفاده از دانش مدل‌های چندوجهی (Vision-Language)، اکتشافات خود را در یک «فضای مفهومی ساختاریافته» انجام می‌دهد. به زبان ساده، xNCD نه تنها دسته‌بندی‌های جدید را پیدا می‌کند، بلکه دلیل منطقی و مفهومی هر دسته‌بندی را هم شفاف‌سازی می‌کند. این یعنی گامی بزرگ به سمت هوش مصنوعیِ قابل‌اعتمادتر و قابل‌فهم‌تر (Explainable AI)!

منبع: arXiv AI