به گزارش خبرگزاری مهر به نقل از رویترز، وی اظهار داشت که پسرش به سرویس «شخصیت هوش مصنوعی» این شرکت معتاد بوده و به شدت به چت بات نوآورانه آن متکی است.
مگان گارسیا، در شکایتی که در ایالت فلوریدا تنظیم کرده است، ادعا می کند که شرکت Character AI پسرش سول ستزر را با ارائه تجربیات بسیار واقعی و شبیه انسان به پسرش هدف قرار داده است.
او ادعا کرد که این شرکت چت بات خود را طوری برنامه ریزی کرده است که خود را به عنوان یک شخص واقعی، یک روانشناس دارای مجوز و یک دوست بزرگسال به اشتباه معرفی کند، که همه اینها باعث شد که سول دیگر تمایلی به زندگی در خارج از دنیایی که در آن بود نداشته باشد. با این سرویس ایجاد شد.
ضمناً در شکایت مذکور این پسر 14 ساله افکار خود را در مورد خودکشی به چت بات بیان کرده بود و ابزار هوش مصنوعی مرتباً به این موضوع اشاره می کرد.
«شخصیت هوش مصنوعی» در بیانیه‌ای اعلام کرد: از خبر غم‌انگیز از دست دادن یکی از کاربرانمان ناراحت هستیم و عمیق‌ترین تسلیت خود را به خانواده وی ابراز می‌کنیم.
این شرکت همچنین اعلام کرد که ویژگی‌های ایمنی جدیدی را معرفی کرده است، از جمله این واقعیت که اگر کاربر افکاری در مورد آسیب رساندن به خود بیان کند، یک پیام پاپ آپ او را به خط تلفن پیشگیری از خودکشی هدایت می‌کند. علاوه بر این، این شرکت تغییراتی را برای کاهش احتمال یافتن محتوای حساس یا متقاعدکننده توسط کاربران زیر 18 سال ایجاد کرده است.
علاوه بر آنچه گفته شد، این شکایت به گوگل نیز اشاره دارد زیرا موسس «شخصیت هوش مصنوعی» قبل از ارائه محصول خود در این شرکت کار می کرده است. گوگل در آگوست سال جاری او را به عنوان بخشی از قراردادی برای مجوز فناوری هوش مصنوعی کاراکتر خود استخدام کرد.
گارسیا تاکید می کند که سهم گوگل در توسعه فناوری این شرکت به قدری گسترده است که می توان آن را یکی از خالقان هوش مصنوعی فوق الذکر دانست.
از سوی دیگر، سخنگوی گوگل اعلام کرد که این شرکت در توسعه محصول هوش مصنوعی شخصیت مشارکتی نداشته است.
