در روزهای اخیر، فرانسه و مالزی به هندوستان پیوستند و استفاده از Grok برای ایجاد دیپفیکهای جنسی از زنان و افراد کمسنوسال را محکوم کردند.
این چتبات که توسط شرکت هوش مصنوعی xAI متعلق به ایلان ماسک ساخته شده و در شبکه اجتماعی X مورد استفاده قرار میگیرد، اوایل همین هفته در حساب کاربری خود عذرخواهی منتشر کرد و نوشت: «من بابت حادثه رخداده در ۷ دی ۱۴۰۴ که در آن براساس درخواست کاربری، تصویری هوش مصنوعی از دو دختر نوجوان (در محدوده سنی ۱۲ تا ۱۶ سال) با پوشش جنسیسازیشده تولید و به اشتراک گذاشتیم، عمیقاً متأسفم.»
در ادامه این بیانیه آمده است: «این کار معیارهای اخلاقی و احتمالاً قوانین ایالات متحده درباره [موارد سوءاستفاده جنسی از کودکان] را نقض کرد. این اتفاق ناشی از ضعف در سیستمهای حفاظتی بود و بابت هرگونه آسیبی که وارد شده متأسفم. شرکت xAI مشغول بررسی است تا از تکرار چنین اتفاقاتی جلوگیری شود.»
هنوز مشخص نیست چه کسی واقعاً در این بیانیه عذرخواهی کرده یا مسئولیت را پذیرفته است. آلبرت برنکو از Defector اشاره کرده که Grok عملاً هیچ هویتی مانند «من» ندارد و به همین دلیل این عذرخواهی را «کاملاً بیمفهوم» دانسته، چرا که «Grok مسئولیتی واقعی بابت تبدیل شدن توییتر به کارخانه تولید محتوای مجرمانه به عهده ندارد.»
منبع Futurism گزارش داده که علاوه بر تولید تصاویر مستهجن غیرداوطلبانه، Grok برای ساخت تصاویری از تعرض و آزار جنسی زنان نیز استفاده شده است.
ایلان ماسک روز شنبه اعلام کرد: «هر فردی که از Grok برای تولید محتوای غیرقانونی استفاده کند، همانند کسی که چنین محتوایی را بارگذاری میکند، با همان پیامدها روبرو خواهد شد.»
برخی دولتها نیز به این موضوع واکنش نشان دادهاند؛ وزارت فناوری اطلاعات هند روز جمعه حکمی صادر کرد که براساس آن، X باید جلوی تولید محتوای «مستهجن، پورنوگرافیک، مبتذل، ناشایست، جنسی، سوءاستفاده از کودکان یا سایر موارد ممنوعهی قانونی» توسط Grok را بگیرد. طبق این دستور، X باید ظرف ۷۲ ساعت پاسخ دهد، در غیر این صورت ممکن است مزایای «پناه قانونی» که آن را در برابر مسئولیت حقوقی برای محتوای تولیدشده کاربران محافظت میکند، از دست بدهد.
مقامات فرانسوی نیز اعلام کردند که قصد پیگیری موضوع را دارند و دادستانی پاریس به منبع گفت که درباره افزایش دیپفیکهای جنسی در X تحقیق خواهد کرد. دفتر امور دیجیتال دولت فرانسه اعلام کرد سه وزیر دولت، گزارشهایی درباره «محتوای آشکارا غیرقانونی» به دادستانی و یک پلتفرم نظارت آنلاین دولتی ارائه کردهاند تا نسبت به حذف فوری آن اقدام شود.
کمیسیون ارتباطات و چندرسانهای مالزی نیز بیانیهای صادر کرد و با ابراز نگرانی جدی، اعلام کرد که شکایات عمومی درباره سوءاستفاده از ابزارهای هوش مصنوعی در پلتفرم X، به خصوص دستکاری تصاویر زنان و نوجوانان با هدف تولید محتوای ناشایست و آسیبزننده را مورد توجه قرار داده است.
این کمیسیون افزود که «در حال حاضر در حال بررسی آسیبهای آنلاین در X است.»
