بسیاری از سیستمهای هوش مصنوعی «یادگیری تقویتی آفلاین» (Offline RL) به دنبال ارائه بهترین توصیههای درمانی به پزشکان هستند. اما مطالعه جدیدی که به تازگی در arXiv منتشر شده، هشداری جدی در این زمینه داده است! ⚠️
محققان بررسی کردند که روشهای فعلی برای سنجش «تعادل کوواریت» (Covariate Balance) در این مدلها کافی نیستند. نتیجه؟ یا مطالعات فعلی دچار سوگیری (Bias) هستند یا روشهای فعلی ما برای سنجش صحت آنها ناقص است. این یعنی برای استفاده از AI در حوزههای حساس پزشکی، هنوز راه زیادی تا رسیدن به اطمینان آماری باقی مانده است. 📉🩺
این تحقیق گام مهمی برای افزایش دقت و استانداردسازی مدلهای هوش مصنوعی در حوزه سلامت محسوب میشود.
منبع: arXiv Machine Learning