🔍 چرا هوش مصنوعی نمی‌تواند مثل انسان بنویسد؟ کشف «نقطه کور» در تولید متن!

محققان در یک پژوهش جدید متوجه شدند که روش‌های فعلی تولید متن در مدل‌های هوش مصنوعی (مثل GPT-3.5 یا Claude)، به دلیل تکیه بر احتمال آماری، بخش مهمی از انتخاب‌های خلاقانه و «انسانی» کلمات را حذف می‌کنند.

این اتفاق که «نقطه کور برش» (Truncation Blind Spot) نام گرفته، باعث می‌شود مدل‌ها واژه‌های خاص و دقیق را که انسان‌ها در شرایط مختلف انتخاب می‌کنند، نادیده بگیرند. جالب اینجاست که این تفاوت ساختاری باعث شده مدل‌های تشخیص متن، بتوانند با دقت بالای ۹۷٪ متون هوش مصنوعی را از متون انسانی تفکیک کنند.

این یافته ثابت می‌کند که مدل‌های فعلی، علی‌رغم پیشرفت‌های خیره‌کننده، هنوز در درک «مناسب بودن محتوایی» کلمات در زبان انسان، ضعف‌های بنیادینی دارند.

منبع: arXiv Machine Learning