امنیت مدلهای زبانی (LLM) یکی از داغترین مباحث دنیای تکنولوژی است. ابزار جدیدی در گیتهاب منتشر شده که بر روی «آموزش امتناع» (Refusal Training) تمرکز دارد تا به مدلهای هوش مصنوعی کمک کند در برابر حملات مخرب و مبدل (MCP – Model Context Protocol) هوشمندانه مقاومت کنند.
این پروژه برای توسعهدهندگانی که میخواهند امنیت ایجنتهای هوش مصنوعی خود را در برابر دستورات فریبنده ارتقا دهند، یک منبع کاربردی و مهم محسوب میشود.
🔗 لینک پروژه: https://github.com/johnhalloran321/mcp_safety_training
منبع: Hacker News LLM