تا به حال به این فکر کردهاید که وقتی یک خروجی از هوش مصنوعی میگیریم و آن را به بخشهای دیگر نرمافزار میدهیم، امنیت و جریان داده چگونه کنترل میشود؟ مدلهای زبانی به دلیل ذات «جعبه سیاه» خود، تحلیلهای سنتی برنامهنویسی را با مشکل مواجه میکنند.
محققان ابزار جدیدی به نام PRISM را معرفی کردهاند که اولین مدل برای بررسی «دسترسیپذیری» (Reachability) در مرز بین زبان طبیعی (NL) و کد برنامهنویسی (PL) است. این ابزار با استفاده از یک طبقهبندی هوشمند، رفتار مدلهای زبانی را تحلیل میکند تا مطمئن شود دادهها در برنامههایی که از LLM استفاده میکنند، به درستی و ایمن منتقل میشوند. این یک قدم بزرگ برای توسعه نرمافزارهای امنتر و قابلاعتمادتر مبتنی بر هوش مصنوعی است! 🚀
منبع: arXiv AI