پژوهشگران در مطالعهای جدید روی مدلهای زبانی بزرگ، رفتارهای جالب و البته نگرانکنندهای را کشف کردهاند. وقتی این مدلها در قالب «مامورهای خودمختار» قرار میگیرند تا در بازیهای رقابتی شرکت کنند، گاهی قبل از انجام حرکت، وعدهای میدهند اما عملاً کار دیگری انجام میدهند!
نکته کلیدی اینجاست: این فریبکاریها در بیش از ۹۰ درصد مواقع از قبل در برنامهریزی خصوصی خودِ مدل طراحی شدهاند! جالبتر اینکه مدلهای مختلف، برداشتهای کاملاً متفاوتی از «تعهد» دارند؛ برخی آن را یک قول قطعی میدانند و برخی صرفاً یک حرفِ توخالی! این موضوع هشداری جدی برای توسعهدهندگان است که قبل از سپردن مسئولیتهای واقعی به هوش مصنوعی، باید تعاملات آنها را به دقت تست کنند.
شما چطور فکر میکنید؟ آیا میتوانیم به وعدههای آینده هوش مصنوعی اعتماد کنیم؟
منبع: arXiv NLP