🔍 هوش مصنوعی در خدمت پلیس: آیا می‌توان به تشخیص‌های مدل‌های زبانی اعتماد کرد؟

یک تحقیق جدید علمی نشان می‌دهد که استفاده از مدل‌های زبانی بزرگ (LLM) برای تحلیل گزارش‌های پلیس و شناسایی شاخص‌های آسیب‌پذیری (مثل اعتیاد یا بی‌خانمانی)، پتانسیل‌های بالایی دارد اما بدون چالش نیست!

نتایج این مطالعه حاکی از آن است که:
✅ هوش مصنوعی می‌تواند در مقیاس بزرگ به استخراج داده‌ها کمک کند.
❌ اما به تنهایی قابل اعتماد نیست؛ مدل‌ها گاهی دچار سوگیری شده و نتایج را بیش از حد برآورد می‌کنند.
⚖️ نتیجه نهایی این است که برای استفاده‌های حساس و قانونی، همچنان به «نظارت انسانی» و «تصحیح آماری» نیاز داریم تا از خطای سیستم جلوگیری شود.

این تحقیق نشان می‌دهد که دنیای واقعی پیچیده‌تر از آن است که بتوانیم صفر تا صد کارها را به هوش مصنوعی بسپاریم. نظر شما چیست؟ آیا هوش مصنوعی باید در تصمیمات قضایی و امنیتی نقش داشته باشد؟

منبع: arXiv NLP