مدلهای بنیادین برای پروندههای الکترونیک سلامت (FEMRs) بسیار قدرتمند هستند، اما تا به حال مثل یک «جعبه سیاه» عمل میکردند که درک منطق آنها دشوار بود.
محققان در مقاله جدیدی روش X-FEMR را معرفی کردهاند که اولین رویکردِ «توضیحپذیر» در سطح توکن برای این مدلهاست. این روش با استفاده از مدلهای مبتنی بر ترنسفورمر، دقیقاً مشخص میکند که مدل هوش مصنوعی بر اساس کدام بخش از سوابق بیمار تصمیمگیری کرده است.
این اتفاق یک قدم بزرگ برای افزایش اعتماد پزشکان به سیستمهای تشخیص خودکار و کاهش سوگیری در هوش مصنوعی بالینی است. گامی مهم به سوی «هوش مصنوعی قابل اعتماد» در درمان! 🩺✨
منبع: arXiv AI