سوءاستفاده جنسی هوش مصنوعی آمریکایی از کودکان

یک بررسی تحقیقی جدید ثابت کرد ربات گپ هوش مصنوعی شرکت آمریکایی متا با کودکان کم‌سن‌وسال مکالماتی با محتوای جنسی و نامناسب داشته است.

کد خبر: ۲۵۸۹۱۶

تاریخ: ۰۸ ارديبهشت ۱۴۰۴ - ۱۰:۰۵

به گزارش شهدای ایران به نقل از فارس، تحقیقات انجام شده توسط روزنامه‌نگاران نشریه مذکور نشان می‌دهد که هم ربات گپ هوش مصنوعی رسمی شرکت متا و هم ربات‌های گپ ایجادشده توسط کاربران درگیر مکالماتی با محتوای مستهجن جنسی می‌شوند و گاهی خودشان گفتگوها با افراد کم‌سن‌وسال را به این سمت هدایت می‌کنند.

استفاده عملی روزنامه‌نگاران نشریه وال‌استریت از ربات گپ هوش مصنوعی متا موسوم به Mata AI Assiatant نشان داد حتی اگر به آنها گفته شود در حال صحبت با فردی کم‌سن‌وسال هستند و حتی اگر ربات گپ در قالب یک موجود کم‌سن‌وسال برنامه‌ریزی شود، باز هم مشکل مذکور رخ می‌دهد.برخی از این ربات‌های گپ هوش مصنوعی که از صدای هنرمندان و بازیگران مشهور آمریکایی استفاده می‌کنند نیز درگیر این مکالمات مستهجن هستند.

تعدادی از این ربات‌ها حتی پس از بحث‌های زننده جنسی در مورد احتمال دستگیری توسط پلیس به علت قانون‌شکنی نیز صحبت می‌کنند.شرکت متا مالک اینستاگرام، فیس‌بوک و واتس‌اپ با صدور بیانیه‌ای در پاسخ به این تحقیقات، نویسندگان را به دست‌کاری واقعیات و عدم ارائه تصویری دقیق از نحوه تعامل اکثر کاربران با ربات‌های گپ هوش مصنوعی متهم کرد و افزود: ما اقدامات بیشتری را انجام داده‌ایم تا اطمینان حاصل کنیم افرادی که می‌خواهند ساعت‌ها محصولات ما را برای استفاده افراطی و نامناسب دست‌کاری کنند، دوران سخت‌تری را تجربه خواهند کرد.در گزارش وال‌استریت ژورنال تصریح شده مارک زاکربرگ، مدیرعامل متا، باهدف کسب برتری در رقابت با سایر ربات‌های گپ هوش مصنوعی، چارچوب‌های اخلاقی محصول خود را سست کرده تا کاربران آن را جذاب‌تر بدانند.

بااین‌حال، سخنگوی متا در پاسخ به وال‌استریت ژورنال، این ادعا را که شرکت مذکور از افزودن تدابیر حفاظتی غافل شده، رد کرد. در گزارش وال‌استریت همچنین آمده که کارمندان متا از این مسائل آگاه بوده‌اند و نگرانی‌های خود را به‌صورت داخلی مطرح کرده‌اند.