جسی شیرینکارگردان فیلم «ناشناخته: ربات های قاتل» می گوید: رهبران جهان در روسیه، چین و آمریکا اعلام کرده اند که هوش مصنوعی در جنگ ها مزیت های زیادی برای ارمغان به همراه خواهد داشت.
سوئیت که قبلاً برنده جایزه امی شده بود، هشدار داد: «انقلاب هوش مصنوعی در حال وقوع است. اما من فکر می کنم آگاهی ما از سرعت توسعه این فناوری عقب مانده است.”
سویت در مستند خود نشان می دهد که استفاده از ربات ها و پهپادهای درجه یک در نبرد موضوع جدیدی نیست. اما استفاده از هوش مصنوعی باعث بهبود سخت افزار موجود و مدرن شدن جنگ ها می شود.
به گفته کارشناسان، پیشرفت های هوش مصنوعی ما را به نقطه ای رسانده است که اکنون قدرت های جهانی چاره ای جز تجدید نظر در استراتژی های نظامی خود ندارند.
ناتان مایکل، مدیر ارشد فناوری Shield AI گفت: «انتظار داشتن هوش مصنوعی برای خلبانی F-16 واقع بینانه است و دستیابی به این سطح از فناوری غیرمنطقی نیست. Shield AI شرکتی است که قصد دارد بهترین خلبان هوش مصنوعی در جهان را بسازد.
با این حال، برخی از فیلمسازان، از جمله کسانی که کارشان به هوش مصنوعی می پردازد، نسبت به نظامی شدن سریع روباتیک ابراز نگرانی کرده و هشدار داده اند که ما نمی فهمیم چه می سازیم.
سوئیت گفت: «روشی که الگوریتم‌ها اطلاعات را پردازش می‌کنند، حتی توسعه‌دهندگان این سیستم‌ها را نیز درک کامل تصمیم‌هایشان را دشوار می‌کند. این فناوری آنقدر سریع در حال پیشرفت است که حتی پاسخ به سوالاتی مانند “آیا می تواند انسان را بکشد یا نه؟” بی پاسخ مانده است.»
روشی که الگوریتم‌ها اطلاعات را پردازش می‌کنند، حتی توسعه‌دهندگان چنین سیستم‌هایی را نیز قادر به درک کامل تصمیمات خود نمی‌سازد.
علاوه بر این، اعتماد به دقت و صحت فناوری دوباره مطرح خواهد شد که به عنوان سوگیری اتوماسیون شناخته می شود.
نگرانی دیگر مربوط به نرم افزار تشخیص چهره هوش مصنوعی است که برای تقویت ربات ها یا پهپادهای خودران در طول نبرد استفاده می شود. در حال حاضر، کشش نهایی چنین ابزارهایی بر عهده انسان است. اما اگر عامل انسانی حذف شود، چنین سیستم هایی برای غیرنظامیان بسیار خطرناک خواهد بود.
سویت می گوید: «هوش مصنوعی در شناسایی افراد سفیدپوست بهتر است. بنابراین افراد تیره پوست به راحتی با یکدیگر اشتباه گرفته می شوند. زمانی که ما در میدان نبرد هستیم و چنین نظامی نمی تواند دوست را از دشمن به درستی تشخیص دهد، با فاجعه بزرگی مواجه خواهیم شد.»
قطعاً فیلم‌های اکشن آینده‌نگر را دیده‌اید که در آن ربات‌ها و سلاح‌های قدرتمند هوش مصنوعی علیه انسان‌ها اقدام می‌کنند. سوییت در بخشی دیگر از توضیحات خود گفت: با هوش مصنوعی واقعاً وقوع سناریوی فوق امکان پذیر است و این تفکر باعث ایجاد تنش در نیروهای نظامی در سراسر جهان شده است.
فقدان پیچیدگی لازم برای نفوذ به سیستم های رزمی باید همه را نگران کند.
علاوه بر این، نگرانی هایی در مورد امنیت سایبری هوش مصنوعی و توانایی دولت های خارجی یا افراد مستقل برای در اختیار گرفتن ابزارهای نظامی حیاتی وجود دارد. سوییت گفت: «فکر نمی‌کنم هنوز پاسخ روشنی برای این نگرانی‌ها وجود داشته باشد، و همه می‌دانند که هرچه ارتش بیشتر به سمت اتوماسیون حرکت کند، افراد بیشتری می‌توانند از این فناوری‌ها بهره‌برداری کنند».
کارشناسان می گویند فقدان پیچیدگی لازم برای نفوذ به سیستم های رزمی باید همه را نگران کند. سویت گفت: «قبلا برای استخراج تجهیزات نظامی به مهارت های کامپیوتری زیادی نیاز داشتید. اما اکنون تقریباً هر کسی که IQ داشته باشد می تواند این کارها را انجام دهد.”
در حالی که هوش مصنوعی فناوری‌های پزشکی و دارویی را برای درمان بیماری‌ها پیشرفت می‌کند، دانشمندان هشدار می‌دهند که چیزی به سادگی تغییر از صفر به یک در رایانه می‌تواند با اجرای هزاران شبیه‌سازی منجر به تولید ترکیبات سمی، سلاح‌های شیمیایی ایجاد کند.
دکتر شان آکینزمدیر عامل شرکت Collaborations Pharmaceuticals، در مستند Sweet داستان چگونگی ماموریتی را در سال 2021 توسط ناظر هوش مصنوعی سوئیس برای آزمایش امکان طراحی یک سلاح زیستی به او می گوید.
اکینز به NYPost گفت: «ما در حال ساخت مدل‌های مختلف یادگیری ماشین هستیم تا احتمال سمی بودن مولکول‌ها را بررسی کنیم. ما به معنای واقعی کلمه یک سوئیچ را روی یکی از مدل ها زدیم و یک شبه مولکول های سلاح شیمیایی تولید کرد. جالب اینجاست که یک شرکت کوچک چنین کاری را با مدل دسکتاپ مک 2015 انجام داد.
در میان مدل های تولید شده با هوش مصنوعی، ترکیباتی شبیه به VX، یکی از مرگبارترین عوامل عصبی شناخته شده در جهان وجود داشت.
دکتر اکینز افزود: “ما برای انجام این کار از فناوری های تولید مثل استفاده کردیم که البته در سال 2021 بسیار ابتدایی بود. تقریباً دو سال از آن زمان می گذرد و من فکر می کنم آنچه انجام داده ایم در مقایسه با آنچه امروز ممکن است بسیار کوچک است.”
آکینز نگران است که دانشمندان سرکش یا افرادی با صلاحیت های ناکافی از هوش مصنوعی برای تولید سلاح های شیمیایی و بیولوژیکی خطرناک استفاده می کنند. او می گوید: “من فکر می کنم خطر واقعی این است که ما به نقطه ای می رسیم که پیدا کردن مولکول های جدید با مراکز بسیار آسان تر است.” این واقعاً جای نگرانی است و هوش مصنوعی می‌تواند به انسان کمک کند تا مولکول‌هایی بسازد که ده‌ها هزار برابر سمی‌تر هستند.»
آکینز می گوید هنوز هیچ اقدام جدی برای جلوگیری از ایجاد سلاح های شیمیایی با هوش مصنوعی وجود ندارد و دلیل این امر عدم درک خطر بالقوه چنین فناوری است. دکتر اکینز سرعت سرسام آور پیشرفت فناوری یادگیری ماشین در رشته خود را با دانشمندانی که بمب اتمی را ساختند مقایسه کرد. چون آنها هم به عواقب کارشان فکر نمی کردند.
آکینز همچنین خاطرنشان کرد: حتی پدرخوانده هوش مصنوعی اکنون متوجه شده است که این فناوری چقدر خطرناک است و گسترش آن چه خطرات دیگری را در پی خواهد داشت. علاوه بر این، من فکر می کنم بازگرداندن وضعیت به حالت قبل بسیار دشوار خواهد بود.
227227
