ایکس متعلق به ایلان ماسک، جدیدترین شبکه اجتماعی است که ویژگی برچسبزنی روی تصاویر ویرایششده به عنوان «رسانه دستکاریشده» را ارائه کرده است؛ اگر پست ایلان ماسک را باور کنیم. با این حال، شرکت هنوز توضیح نداده چگونه این تمایز را انجام خواهد داد یا اینکه آیا این برچسبگذاری شامل تصاویری که با ابزارهای سنتی مانند فتوشاپ ادوبی ویرایش شدهاند نیز میشود یا نه.
تاکنون، تنها جزئیات این ویژگی جدید در یک پست مرموز از ایلان ماسک در ایکس آمده است که نوشته: «هشدار تصاویر ویرایششده»، و این جمله را در حالی بازنشر کرده که اطلاعیهای از قابلیت جدید ایکس توسط حساب کاربری ناشناس DogeDesigner منتشر شده بود. این حساب غالبا برای معرفی قابلیتهای تازه مورد استفاده قرار میگیرد و ماسک با بازنشر مطالب آن، اخبار را به اشتراک میگذارد.
با این حال، جزئیات درباره این سیستم جدید اندک است. پست DogeDesigner ادعا کرده که قابلیت جدید ایکس میتواند «گسترش کلیپها یا تصاویر گمراهکننده توسط گروههای رسانهای سابق» را دشوارتر کند. همچنین گفته که این ویژگی کاملاً جدید در ایکس است.
پیش از آنکه ایکس توسط ایلان ماسک خریداری شود و نامش تغییر کند، شرکت قبلاً به جای حذف کردن رسانههای دستکاریشده، توییتهای شامل رسانههای ساختگی یا به شیوه گمراهکننده ویرایششده را برچسبگذاری میکرد. این سیاست فقط شامل هوش مصنوعی نبود و مواردی مانند «ویرایش یا کراپ انتخابی، آهستهسازی یا دوبله و دستکاری زیرنویس» را هم دربر میگرفت. مدیر ارشد سلامت سایت، یوئل راث، در سال ۱۳۹۸ (۲۰۲۰ میلادی) به این موضوع اشاره کرده بود.
مشخص نیست که ایکس همان قوانین قبلی را به کار میگیرد یا تغییراتی اساسی برای مقابله با هوش مصنوعی اعمال کرده است. مستندات راهنمای فعلی میگویند که قانونی علیه انتشار رسانههای غیرواقعی وجود دارد، اما این قانون به ندرت اجرا میشود؛ همانطور که اتفاق اخیر درباره تصاویر ساختگی غیر رضایتمندانه نشان داد. حتی کاخ سفید هم اکنون تصاویر دستکاریشده منتشر میکند.
نامگذاری چیزی به عنوان «رسانه دستکاریشده» یا «تصویر هوش مصنوعی» میتواند تا حدی پیچیده باشد.
با توجه به اینکه ایکس محلی برای انتشار پروپاگانداهای سیاسی داخلی و خارجی است، مستندسازی اینکه شرکت چگونه تشخیص میدهد یک تصویر ویرایششده یا تولید یا دستکاریشده با هوش مصنوعی است، ضروری به نظر میرسد. همچنین کاربران باید بدانند آیا روشی برای اعتراض به این برچسبگذاری غیر از سامانه یادداشتهای جامعه محور وجود دارد یا خیر.
زمانی که متا برچسبگذاری تصویرهای هوش مصنوعی را در سال ۱۴۰۳ معرفی کرد، مشخص شد که سیستمهای شناسایی به راحتی میتوانند دچار اشتباه شوند. در این مورد، متا تصاویر واقعی را اشتباهاً با برچسب «ساختهشده با هوش مصنوعی» علامت میزد، حتی اگر این عکسها با هوش مصنوعی تولید نشده بودند.
این امر به این دلیل رخ داد که ویژگیهای هوش مصنوعی به طور فزایندهای در ابزارهای خلاقانه مورد استفاده عکاسان و هنرمندان گرافیک ادغام میشود (مجموعه جدید Creator Studio اپل که امروز عرضه شده نمونه جدیدی از این موارد است).
همین موضوع باعث ایجاد سردرگمی در ابزارهای شناسایی متا شد. برای مثال، ابزار کراپ ادوبی هنگام ذخیره تصویر به فرمت JPEG، تصویر را مسطح میکرد و این باعث میشد تا شناساییکننده هوش مصنوعی متا فعال شود. در نمونهای دیگر، ویژگی Generative AI Fill ادوبی که برای حذف اشیاء—مثل چین و چروک یک پیراهن یا انعکاس ناخواسته—استفاده میشود، نیز موجب میشد تصویر با برچسب «ساختهشده با هوش مصنوعی» علامتگذاری شود، در حالی که تصویر فقط با ابزارهای هوش مصنوعی ویرایش شده بود.
در نهایت، متا برچسب خود را به «اطلاعات هوش مصنوعی» تغییر داد تا از این سردرگمی جلوگیری کند و تصاویری که صرفاً ویرایش شده بودند را به طور کامل «ساختهشده با هوش مصنوعی» اعلام نکند.
اکنون یک نهاد استانداردگذاری برای تأیید اصالت و منشأ محتوای دیجیتال وجود دارد که با عنوان C2PA (ائتلاف منشأ و اصالت محتوا) شناخته میشود. ابتکارات مرتبطی مانند CAI (ابتکار اصالت محتوا) و پروژه Origin نیز روی افزودن متادیتای منشأ غیرقابل دستکاری به محتوای رسانهای تمرکز دارند.
به نظر میرسد پیادهسازی ایکس نیز باید بر اساس فرآیند شناختهشدهای برای شناسایی محتوای هوش مصنوعی باشد، اما مالک ایکس، ایلان ماسک، درباره این موضوع توضیحی نداده است. همچنین روشن نکرده که آیا فقط درباره تصاویر هوش مصنوعی صحبت میکند یا به هر محتوایی که مستقیماً از دوربین گوشی هوشمند آپلود نمیشود اشاره دارد. حتی مشخص نیست که این قابلیت کاملاً جدید باشد؛ همانطور که DogeDesigner ادعا میکند.
ایکس تنها پلتفرمی نیست که با چالش رسانههای دستکاریشده روبرو است. علاوه بر متا، تیکتاک نیز در حال برچسبگذاری محتوای هوش مصنوعی است. سرویسهای پخش مانند Deezer و Spotify نیز پروژههایی برای شناسایی و برچسبگذاری موسیقی هوش مصنوعی در دست اجرا دارند. گوگل فوتوز از C2PA استفاده میکند تا نحوه تولید تصاویر روی پلتفرم خود را نشان دهد. شرکتهایی مانند مایکروسافت، بیبیسی، ادوبی، آرم، اینتل، سونی، OpenAI و دیگران نیز عضو هیئتمدیره C2PA هستند و بسیاری شرکتهای دیگر نیز به عنوان عضو به این ائتلاف پیوستهاند.
نام ایکس فعلاً میان اعضا ذکر نشده است، با این حال از C2PA درباره این موضوع پیگیری کردهایم که آیا اخیراً تغییری ایجاد شده است یا نه. ایکس معمولاً به درخواستهای برای توضیح پاسخ نمیدهد اما با این حال ما این پرسش را مطرح کردیم.
