محققان در پژوهشی جدید به یک چالش مهم در دنیای هوش مصنوعی اشاره کرده‌اند: «محدودیت‌های ایمنی» (Safety Alignment) که گاهی باعث می‌شود مدل‌های زبانی…

محققان ابزار جدیدی طراحی کرده‌اند که با استفاده از مدل‌های مولد تصویر (Generative Models)، می‌تواند نقاط ضعف سیستم‌های تشخیص اشیاء در تصاویر هوایی (مثل…

یکی از چالش‌های بزرگ در مناطق محروم جهان، نداشتن نقشه دقیق از مدرسه‌ها و زیرساخت‌های اینترنت برای اتصال آن‌ها به شبکه جهانی است. محققان…

اگر درگیر پروژه‌های عملیاتی هوش مصنوعی هستید، حتما می‌دانید که انتقال یک مدل از آزمایشگاه به محیط تولید چه کابوس مهندسی بزرگی است! 🤯…

محققان در یک پژوهش جدید، چارچوب هوشمند و چندوجهی (Multimodal) نوین را برای شناسایی زودهنگام اخبار جعلی و پیش‌بینی فعالیت‌های خشن گروه‌های اجتماعی طراحی…

یکی از بزرگ‌ترین نگرانی‌ها درباره هوش مصنوعی، رفتارهای غیرقابل‌پیش‌بینی در شرایط حساس است. محققان به تازگی بنچمارک جدیدی به نام «RiskAverseOOD» معرفی کرده‌اند که…

گوگل به تازگی نسل چهارم مدل‌های محبوب Gemma را معرفی کرده که یک جهش بزرگ در دنیای مدل‌های متن‌باز (Open-weight) محسوب می‌شود. این خانواده…

یکی از چالش‌های اصلی در مدل‌های زبانی، رعایت محدودیت‌های ایمنی در حین تولید متن بدون نیاز به آموزش مجدد و هزینه‌بر مدل است. محققان…

حتماً برایتان پیش آمده که هنگام بررسی کدها (Code Review)، پیدا کردن بخش‌های پرریسک و خطرناک چقدر زمان‌بر است. حالا محققان مدل جدیدی طراحی…

محققان در پژوهشی جدید به سراغ یکی از نقاط ضعف جدی مدل‌های زبانی (LLM) رفته‌اند: آسیب‌پذیری در برابر «تزریق بلاغی» (Rhetorical Injection). ماجرا اینجاست…