محققان در مطالعهای جدید به بررسی دقت «مدلهای بصری-زبانی» (VLM) در تشخیص خطرات فیزیکی پرداختهاند. نتیجه جالب این است که بسیاری از مدلهای پیشرفته، تفاوت بین یک «موقعیت خطرناک واقعی» و یک «ناهنجاری غیرمعمول» را درک نمیکنند! ⚠️
در واقع، این مدلها اغلب به اشتباه هر چیزی که عجیب یا متفاوت به نظر برسد را به عنوان خطر برچسبگذاری میکنند. این تحقیق نشان میدهد برای استفاده از هوش مصنوعی در سیستمهای ایمنیمحور (مثل رباتهای امدادگر)، باید معیار ارزیابی مدلها دقیقتر شود تا از خطاهای پرهزینه جلوگیری شود. نظر شما چیست؟ آیا میتوان به هوش مصنوعی در موقعیتهای بحرانی اعتماد کرد؟
منبع: arXiv AI