یک استارتاپ به تازگی از شرکت «Koi Security» (زیرمجموعه Palo Alto Networks) شکایت کرده است. ماجرا از این قرار است که گزارشهای تولید شده توسط هوش مصنوعیِ این شرکت، به اشتباه این استارتاپ را به جاسوسی برای چین متهم کرده و اعتبار آنها را به شدت زیر سوال برده است! 📉
این اتفاق یک زنگ خطر جدی برای سازمانهاست: وقتی هوش مصنوعی بدون نظارت دقیق انسانی «توهم» میزند (Hallucination)، میتواند عواقب حقوقی و تجاری بسیار سنگینی به همراه داشته باشد. حالا باید دید دادگاه چه حکمی در مورد مسئولیت شرکتها در قبال خروجیهای نادرستِ مدلهای هوش مصنوعی صادر میکند.
منبع: Hacker News AI
