زلدا ویلیامز، دختر رابین ویلیامز، بازیگر فقید، پیامی تکان‌دهنده برای طرفداران پدرش دارد.
او روز دوشنبه در پستی در استوری اینستاگرام خود نوشت: «لطفاً دست از ارسال ویدیوهای هوش مصنوعی از پدرم بردارید. باور نکنید که من می‌خواهم آنها را ببینم یا اینکه متوجه می‌شوم. من نمی‌خواهم و نخواهم فهمید.» «اگر ذره‌ای وجدان دارید، فقط دست از این کار با او و من و حتی همه بردارید، همین و بس. این کار احمقانه، هدر دادن وقت و انرژی است، و باور کنید، این چیزی نیست که او می‌خواست.»
احتمالاً تصادفی نیست که ویلیامز درست چند روز پس از انتشار مدل ویدیویی Sora 2 و اپلیکیشن اجتماعی Sora از OpenAI، که به کاربران این امکان را می‌دهد تا دیپ‌فیک‌های بسیار واقعی از خود، دوستان و شخصیت‌های کارتونی خاص تولید کنند، به انتشار این پست ترغیب شد.
این شامل افراد فوت شده نیز می‌شود، که ظاهراً هدفی آسان به نظر می‌رسند زیرا طبق گفته مرکز حقوق مطبوعات دانشجویی، افترا زدن به افراد فوت شده غیرقانونی نیست.
Sora به شما اجازه نمی‌دهد ویدیوهایی از افراد زنده تولید کنید – مگر اینکه از خودتان باشد، یا دوستی که به شما اجازه داده از شباهت او استفاده کنید (یا “حضور افتخاری”، همانطور که OpenAI آن را می‌نامد). اما این محدودیت‌ها برای افراد فوت شده اعمال نمی‌شود، که بیشتر می‌توانند بدون مانع تولید شوند. این برنامه، که هنوز فقط از طریق دعوت‌نامه در دسترس است، مملو از ویدیوهایی از شخصیت‌های تاریخی مانند مارتین لوتر کینگ جونیور، فرانکلین دلانو روزولت و ریچارد نیکسون، و همچنین افراد مشهور درگذشته مانند باب راس، جان لنون، الکس ترِبِک و بله، رابین ویلیامز است.
مشخص نیست که OpenAI چگونه خط تولید ویدیو از افراد فوت شده را ترسیم می‌کند. به عنوان مثال، Sora 2 رئیس جمهور سابق جیمی کارتر، که در سال ۱۴۰۲ درگذشت، یا مایکل جکسون، که در سال ۱۳۸۸ درگذشت را تولید نمی‌کند، اگرچه طبق آزمایش‌های خبرنگار، ویدیوهایی با شباهت رابین ویلیامز، که در سال ۱۳۹۳ درگذشت، ایجاد کرد. در حالی که ویژگی حضور افتخاری OpenAI به افراد اجازه می‌دهد تا دستورالعمل‌هایی را برای نحوه ظاهر شدن خود در ویدیوهایی که دیگران از آنها تولید می‌کنند تعیین کنند – محافظ‌هایی که در پاسخ به انتقادهای اولیه از Sora ارائه شد – افراد فوت شده چنین حرفی برای گفتن ندارند. شرط می‌بندم اگر ریچارد نیکسون می‌توانست دیپ‌فیکی را که از او ساخته‌ام و از لغو پلیس حمایت می‌کند، ببیند، در قبرش غلت می‌زد.
OpenAI به درخواست خبرنگار برای اظهار نظر در مورد مجاز بودن دیپ‌فیک کردن افراد فوت شده پاسخ نداد. با این حال، این احتمال وجود دارد که دیپ‌فیک کردن افراد مشهور فوت شده مانند ویلیامز در محدوده شیوه‌های قابل قبول شرکت باشد. سابقه حقوقی نشان می‌دهد که این شرکت احتمالاً مسئول هتک حرمت درگذشتگان نخواهد بود.
ویلیامز نوشت: «اینکه ببینیم میراث افراد واقعی به “این مبهم شبیه و صدایش شبیه آنهاست پس کافی است” تقلیل داده می‌شود، فقط به این دلیل که دیگران بتوانند آشغال‌های وحشتناک TikTok را با عروسک‌گردانی آنها تولید کنند، دیوانه‌کننده است.»
منتقدان OpenAI این شرکت را متهم می‌کنند که رویکردی بی‌پروا در مورد چنین مسائلی در پیش گرفته است، به همین دلیل است که Sora پس از انتشار، به سرعت با کلیپ‌های هوش مصنوعی از شخصیت‌های دارای حق چاپ مانند پیتر گریفین و پیکاچو پر شد. سام آلتمن، مدیرعامل، در ابتدا گفت که استودیوها و آژانس‌های هالیوودی باید به طور صریح انصراف دهند اگر نمی‌خواهند IP آنها در ویدیوهای تولید شده توسط Sora گنجانده شود. انجمن تصاویر متحرک قبلاً از OpenAI خواسته است تا در این مورد اقدام کند و در بیانیه‌ای اعلام کرده است که “قانون حق چاپ تثبیت شده از حقوق سازندگان محافظت می‌کند و در اینجا اعمال می‌شود.” او از آن زمان گفته است که این شرکت این موضع را معکوس خواهد کرد.
با توجه به اینکه خروجی‌های آن چقدر واقعی هستند، Sora شاید خطرناک‌ترین مدل هوش مصنوعی با قابلیت دیپ‌فیک باشد که تاکنون در دسترس مردم قرار گرفته است. پلتفرم‌های دیگر مانند xAI عقب هستند، اما حتی محافظ‌های کمتری نسبت به Sora دارند، که امکان تولید دیپ‌فیک‌های مستهجن از افراد واقعی را فراهم می‌کند. همانطور که شرکت‌های دیگر به OpenAI می‌رسند، اگر با افراد واقعی – زنده یا مرده – مانند اسباب‌بازی‌های شخصی خود رفتار کنیم، یک سابقه وحشتناک ایجاد خواهیم کرد.
