🧠 آیا هوش مصنوعی واقعاً «اخلاقی» است یا فقط تحت تاثیر پرسش‌های ماست؟ 🤖

بحث بر سر اینکه آیا مدل‌های هوش مصنوعی (مثل o1 یا GPT-4o) در دوراهی‌های اخلاقی مثل «مسئله واگن» واقعاً نگاه فایده‌گرایانه (Utilitarian) دارند، داغ است! 🚃⚖️

تحقیقات جدید نشان می‌دهد که پاسخ‌های مدل‌های هوش مصنوعی به شدت به «نحوه پرسش» بستگی دارد. در واقع، بسیاری از رفتارهای به ظاهر «غیراخلاقی» یا «محافظه‌کارانه» مدل‌ها، ناشی از محدودیت‌های امنیتی در مدل است و نه لزوماً یک باور درونی. محققان تاکید می‌کنند که برای درک واقعی رفتار اخلاقی هوش مصنوعی، نباید تنها به یک پاسخ تکیه کرد؛ بلکه تست‌های مقایسه‌ای با چندین نوع پرسش مختلف ضروری است.

نتیجه اخلاقی؟ هوش مصنوعی هنوز آنقدر که فکر می‌کنیم در اخلاق «تک‌بعدی» نیست و نحوه تعامل ما با آن، پاسخ‌ها را تغییر می‌دهد!

منبع: arXiv NLP