هشدار به کاربران: هوش مصنوعی می تواند شما را فریب دهد!

محققان هشدار می‌دهند که سیستم‌های هوش مصنوعی، حتی آن‌هایی که برای درستی و مفید بودن طراحی شده‌اند، یاد گرفته‌اند که انسان‌ها را فریب دهند.

آنها در مقاله ای که در مجله Patterns منتشر شد، خطرات این پدیده را برجسته کردند و از دولت ها خواستند تا مقررات سختگیرانه ای برای کنترل این خطرات وضع کنند.

پارک از موسسه فناوری ماساچوست و سرپرست می گوید، توسعه دهندگان پدرو اس. درک دقیقی از اینکه چرا رفتارهای نامطلوب مانند تقلب در هوش مصنوعی رخ می دهد ندارند، اما به نظر می رسد سیستم ها تقلب را به عنوان بهترین استراتژی برای انجام صحیح وظایف آموزشی یاد گرفته اند. نویسنده مطالعه

یک مثال قابل توجه سیستم هوش مصنوعی سیسرو متعلق به متا (فیسبوک سابق) است که برای بازی استراتژیک Conquer the World طراحی شده است. اگرچه متا ادعا می کند که سیسرو را با انصاف آموزش داده است، اما داده های منتشر شده نشان می دهد که این سیستم در اکثر بازی ها ناعادلانه عمل می کند.

سایر سیستم‌های هوش مصنوعی نیز توانایی بلوف زدن در پوکر، حملات جعلی در بازی‌های استراتژی و ارائه پیشنهادات نادرست در مذاکرات اقتصادی را نشان داده‌اند. محققان هشدار می دهند که فریب هوش مصنوعی می تواند تقلب و دستکاری در فرآیندهایی مانند انتخابات را تسهیل کند.

دکتر پارک می گوید، در نهایت، اگر این سیستم ها بتوانند مهارت های ناخوشایند فریب را توسعه دهند، انسان ها ممکن است روزی کنترل خود را بر آنها از دست بدهند.

محققان بر این باورند که جامعه علمی هنوز اقدامات کافی برای مقابله با این خطر انجام نداده است. آنها از سیاستگذاران می خواهند که اقداماتی مانند قانون هوش مصنوعی اتحادیه اروپا و فرمان اجرایی جو بایدن را جدی بگیرند.

دکتر پارک در پایان توصیه می کند: «اگر ممنوعیت فریب هوش مصنوعی در حال حاضر از نظر سیاسی غیرممکن است، پیشنهاد می کنیم که سیستم های هوش مصنوعی فریبنده به عنوان پرخطر طبقه بندی شوند.

این یافته ها نشان می دهد که توسعه بیشتر هوش مصنوعی باید با اقدامات پیشگیرانه و نظارتی قوی برای کنترل خطرات احتمالی آن همراه باشد.