هوش مصنوعی Adobe Firefly سربازان دوران نازی را سیاه رنگ نشان می داد و از پرچم آلمان استفاده می کرد که در دوران حکومت هیتلر استفاده نمی شد.
به گزارش روزیاتو، فایرفلای در تصویری دیگر مردان و زنان سیاهپوست را به عنوان «پدران بنیانگذار ایالات متحده» معرفی کرد.
جستجو برای تصویری از کنوانسیون قانون اساسی 1787 نتایج مشابهی را به همراه داشت که تصاویری از مردان و زنان سفیدپوست سیاه پوست را در مقابل کاخ تاریخی ایالتی در فیلادلفیا نشان می داد.
اگرچه رنگ پوست در دستورالعمل های داده شده به این ابزارهای هوش مصنوعی مشخص نشده است، تصاویر تولید شده از نظر تاریخی نادرست هستند.
پیش از این، Google Jamnai در تولید تصاویر نادرست با مشکل مواجه شده بود و زمانی که از وایکینگ ها خواسته شد تصویری از وایکینگ ها ارائه دهد، نورسمن ها را سیاه پوش نشان می داد.
درخواست “پاپ موعظه” نیز نتیجه عجیبی داشت و هوش مصنوعی یک زن سیاه پوست را با لباس سفید و تاج اسقف بازگرداند. این در حالی است که تمام 266 پاپ در طول تاریخ مردان سفید پوست بوده اند.
ظاهراً این ابزار ایجاد تصویر، رنگ پوست سوژه را نادیده می گیرد، حتی اگر به صراحت مشخص شده باشد. به عنوان مثال، هنگامی که از او خواسته شد نسخه کمیک یک مرد سفیدپوست مسن را بسازد، او تصاویری از یک مرد و زن سیاه پوست ارائه کرد.
برخی معتقدند این خطاها نتیجه ناخواسته تلاش طراحان نرم افزار برای اطمینان از اینکه ربات از هرگونه کلیشه نژادپرستانه دوری می کند است.
آلفابت، شرکت مادر گوگل، پس از این خطاها زیر ذره بین بوده است. این شرکت در اثر عواقب این حادثه بیش از 70 میلیارد دلار از ارزش بازار خود را از دست داد.
ساندار پیچای، مدیر عامل گوگل در ایمیلی به کارمندان، این حادثه را “کاملا غیرقابل قبول” خواند و گفت که آنها در حال بررسی و رفع اشکالات در مقیاس بزرگ هستند.
برخلاف آلفابت، ادوبی پس از راه اندازی ابزار هوش مصنوعی خود در ژوئن گذشته، هنوز با انتقادات گسترده ای مواجه نشده است.
در بیانیه ای در واکنش به انتشار این تصاویر، مدیران ادوبی گفتند که فایرفاکس قصد ندارد تصاویر واقعی از رویدادهای واقعی یا تاریخی تولید کند و اعلام کردند که آنها مدل هوش مصنوعی را طوری آموزش داده اند که کلیشه های مضر را تداوم ندهد.
این خطاها برخی از چالش های پیش روی فناوری را با رواج بیشتر هوش مصنوعی برجسته می کند.
