شرکت OpenAI روز پنجشنبه، ۲۵ مهر ۱۴۰۴ اعلام کرد که امکان تولید ویدیوهایی شبیه به مارتین لوتر کینگ جونیور، فعال فقید حقوق مدنی، را با استفاده از مدل ویدیویی هوش مصنوعی خود، Sora، به طور موقت متوقف کرده است. این شرکت می‌گوید این اقدام احتیاطی را به درخواست بنیاد دکتر کینگ و پس از آن انجام می‌دهد که برخی از کاربران Sora “تصاویر بی‌احترامی” از چهره او تولید کرده‌اند.
OpenAI در پستی در X از حساب رسمی خبری خود اعلام کرد: “در حالی که منافع قوی آزادی بیان در به تصویر کشیدن شخصیت‌های تاریخی وجود دارد، OpenAI معتقد است که چهره‌های عمومی و خانواده‌هایشان در نهایت باید بر نحوه استفاده از شباهتشان کنترل داشته باشند.” “نمایندگان مجاز یا صاحبان بنیاد می‌توانند درخواست کنند که از شباهت آنها در فیلم‌های Sora استفاده نشود.”
این محدودیت تنها چند هفته پس از راه‌اندازی پلتفرم ویدیویی اجتماعی OpenAI، یعنی Sora، اعمال می‌شود. Sora به کاربران اجازه می‌دهد ویدیوهای واقع‌گرایانه تولید شده توسط هوش مصنوعی شبیه به چهره‌های تاریخی، دوستانشان و کاربرانی که انتخاب می‌کنند شباهتشان در این پلتفرم بازسازی شود، ایجاد کنند. این راه‌اندازی بحث‌های داغی را در مورد خطرات ویدیوهای تولید شده توسط هوش مصنوعی و نحوه اجرای محافظت‌ها پیرامون این فناوری توسط پلتفرم‌ها برانگیخته است.
دکتر برنیس کینگ، دختر دکتر کینگ، هفته گذشته در اینستاگرام پستی منتشر کرد و از مردم خواست ارسال ویدیوهای هوش مصنوعی شبیه به پدرش را متوقف کنند. او به دختر رابین ویلیامز پیوست که او نیز از کاربران Sora خواسته بود تولید ویدیوهای هوش مصنوعی از پدرش را متوقف کنند.
نشریه واشنگتن پست اوایل این هفته گزارش داد که کاربران Sora ویدیوهای تولید شده توسط هوش مصنوعی از دکتر کینگ ساخته‌اند که در آن صداهای میمون از خود در می‌آورد و با مالکوم ایکس، یکی دیگر از نمادهای حقوق مدنی، کشتی می‌گیرد. با گشت و گذار در برنامه Sora شرکت OpenAI، به راحتی می‌توان ویدیوهای خام از دیگر چهره‌های تاریخی، از جمله باب راس هنرمند، ویتنی هوستون خواننده و جان اف کندی رئیس جمهور سابق را پیدا کرد.
نماینده بنیاد دکتر کینگ بلافاصله به درخواست خبرنگار برای اظهار نظر پاسخ نداد.
فراتر از نحوه نمایش انسان‌ها توسط Sora، این راه‌اندازی همچنین سوالات زیادی را در مورد نحوه برخورد پلتفرم‌های رسانه‌های اجتماعی با ویدیوهای هوش مصنوعی از آثار دارای حق چاپ مطرح کرده است. برنامه Sora همچنین مملو از ویدیوهایی است که کارتون‌هایی مانند باب اسفنجی، South Park و Pokémon را به تصویر می‌کشند.
شرکت OpenAI در هفته‌های پس از راه‌اندازی، محدودیت‌های دیگری را به Sora اضافه کرده است. اوایل مهر ماه، این شرکت اعلام کرد که قصد دارد کنترل دقیق‌تری را بر انواع ویدیوهای هوش مصنوعی که می‌توان با شباهت آنها تولید کرد، به دارندگان حق چاپ ارائه دهد. این ممکن است پاسخی به واکنش اولیه هالیوود به Sora باشد که چندان خوب نبود.
به نظر می‌رسد که OpenAI با افزودن محدودیت‌ها به Sora، رویکردی غیرمستقیم‌تر در تعدیل محتوا در ChatGPT اتخاذ می‌کند. OpenAI این هفته اعلام کرد که به کاربران بزرگسال اجازه می‌دهد در ماه‌های آینده چت‌های “شهوانی” با ChatGPT داشته باشند.
به نظر می‌رسد که OpenAI با Sora، با نگرانی‌هایی که همراه با تولید ویدیوی هوش مصنوعی به وجود می‌آیند، دست و پنجه نرم می‌کند. برخی از محققان OpenAI در روزهای پس از راه‌اندازی، به طور علنی با سوالاتی در مورد اولین پلتفرم رسانه‌های اجتماعی مبتنی بر هوش مصنوعی این شرکت و نحوه تناسب چنین محصولی با مأموریت غیرانتفاعی آن درگیر بودند. سام آلتمن، مدیرعامل OpenAI، گفت که این شرکت در روز راه‌اندازی Sora احساس “ترس و لرز” داشته است.
نیک تورلی، رئیس ChatGPT، اوایل این ماه به من گفت که بهترین راه برای آموزش جهان در مورد یک فناوری جدید، عرضه آن به جهان است. او گفت که این چیزی است که شرکت با ChatGPT آموخت و این چیزی است که OpenAI با Sora نیز در می‌یابد. به نظر می‌رسد که این شرکت در حال یادگیری نکاتی در مورد نحوه توزیع این فناوری نیز هست.
