آیا هوش مصنوعی میتواند بدون اتصال به اینترنت و فقط روی یک لپتاپ معمولی، به یک دستیار هوشمندِ دقیق برای سازمانهای دولتی تبدیل شود؟ پژوهش جدید پیرامون «RAGAL» پاسخ مثبتی به این سوال میدهد.
این پروژه که برای پشتیبانی فنی در یک آژانس دولتی طراحی شده، با سه محدودیت سختگیرانه اجرا شده است:
۱. خروج صفر داده (بدون استفاده از APIهای ابری)
۲. فعالیت به صورت Read-only (تصمیم نهایی با انسان)
۳. اجرا روی سختافزار بسیار محدود (یک لپتاپ معمولی ۸ گیگابایتی)
نکته کلیدی این مطالعه، اهمیت «مهندسی بازیابی» (Retrieval Engineering) نسبت به بزرگتر کردن مدل است. محققان نشان دادند که با بهینهسازی دقیقِ بازیاب اطلاعات، میتوان دقت عملکرد را تا حد قابلتوجهی افزایش داد. این دستاورد خبر بسیار خوبی برای سازمانهایی است که به دلیل مسائل امنیتی یا حریم خصوصی، امکان استفاده از مدلهای ابری را ندارند. 🛡️💻
منبع: arXiv NLP