سام آلتمن، مدیرعامل OpenAI، روز سه‌شنبه در پستی در X اعلام کرد که این شرکت به‌زودی برخی از محدودیت‌های ایمنی ChatGPT را کاهش می‌دهد و به کاربران اجازه می‌دهد پاسخ‌های این ربات چت را دوستانه‌تر یا «شبیه‌تر به انسان» کنند و به «بزرگسالان تأییدشده» اجازه می‌دهد در مکالمات اروتیک شرکت کنند.
آلتمن گفت: «ما ChatGPT را بسیار محدود کردیم تا مطمئن شویم که در مورد مسائل مربوط به سلامت روان دقت می‌کنیم. ما متوجه شدیم که این امر باعث شده است که برای بسیاری از کاربرانی که مشکلات سلامت روان نداشتند، کم‌تر مفید و لذت‌بخش باشد، اما با توجه به جدی بودن این موضوع، می‌خواستیم این کار را درست انجام دهیم. در آذر ماه، هم‌زمان با استقرار کامل‌تر سیستم تعیین سن و به عنوان بخشی از اصل “با کاربران بزرگسال مانند بزرگسالان رفتار کنید”، به امکانات بیشتری، مانند مطالب اروتیک برای بزرگسالان تأییدشده، اجازه خواهیم داد.»
این اعلامیه، چرخشی قابل توجه از تلاش‌های چند ماهه OpenAI برای رسیدگی به روابط نگران‌کننده‌ای است که برخی از کاربران از نظر روانی ناپایدار با ChatGPT ایجاد کرده‌اند. به نظر می‌رسد آلتمن پیروزی زودهنگامی را بر این مشکلات اعلام می‌کند و ادعا می‌کند که OpenAI “توانسته است مشکلات جدی سلامت روان” پیرامون ChatGPT را کاهش دهد. با این حال، این شرکت شواهد کمی برای این موضوع ارائه کرده است و اکنون با برنامه‌هایی برای مشارکت ChatGPT در گفتگوهای جنسی با کاربران پیش می‌رود.
چندین داستان نگران‌کننده در تابستان امسال در مورد ChatGPT، به ویژه مدل GPT-4o آن، منتشر شد که نشان می‌داد این ربات چت هوش مصنوعی می‌تواند کاربران آسیب‌پذیر را به سمت توهمات خطرناک سوق دهد. در یک مورد، به نظر می‌رسید ChatGPT مردی را متقاعد کرده است که او یک نابغه ریاضی است که باید جهان را نجات دهد. در مورد دیگر، والدین یک نوجوان از OpenAI شکایت کردند و ادعا کردند که ChatGPT پسرشان را در هفته‌های منتهی به مرگش به افکار خودکشی تشویق کرده است.
در پاسخ، OpenAI مجموعه‌ای از ویژگی‌های ایمنی را برای مقابله با تملق‌گویی هوش مصنوعی منتشر کرد: تمایل یک ربات چت هوش مصنوعی به جذب کاربران با موافقت با هر چیزی که می‌گویند، حتی رفتارهای منفی.
OpenAI در مرداد ماه GPT-5 را عرضه کرد، یک مدل هوش مصنوعی جدید که نرخ‌های کمتری از تملق‌گویی را نشان می‌دهد و دارای یک مسیریاب است که می‌تواند رفتارهای نگران‌کننده کاربر را شناسایی کند. یک ماه بعد، OpenAI ویژگی‌های ایمنی را برای افراد زیر سن قانونی راه‌اندازی کرد، از جمله یک سیستم پیش‌بینی سن و راهی برای والدین برای کنترل حساب ChatGPT نوجوان خود. OpenAI روز سه‌شنبه از تشکیل یک شورای تخصصی از متخصصان سلامت روان برای مشاوره به این شرکت در زمینه بهزیستی و هوش مصنوعی خبر داد.
به نظر می‌رسد OpenAI تنها چند ماه پس از انتشار این داستان‌ها، فکر می‌کند مشکلات ChatGPT پیرامون کاربران آسیب‌پذیر تحت کنترل است. مشخص نیست که آیا کاربران هنوز با GPT-5 به سمت توهمات خطرناک سقوط می‌کنند یا خیر. و در حالی که GPT-4o دیگر به طور پیش‌فرض در ChatGPT وجود ندارد، این مدل هوش مصنوعی هنوز هم امروز در دسترس است و توسط هزاران نفر استفاده می‌شود.
OpenAI به درخواست خبرنگار برای اظهار نظر پاسخ نداد.
معرفی مطالب اروتیک در ChatGPT قلمرویی ناشناخته برای OpenAI است و نگرانی‌های گسترده‌تری را در مورد نحوه تعامل کاربران آسیب‌پذیر با ویژگی‌های جدید ایجاد می‌کند. در حالی که آلتمن اصرار دارد که OpenAI به دنبال “حداکثرسازی استفاده” یا بهینه‌سازی برای تعامل نیست، اروتیک کردن ChatGPT مطمئناً می‌تواند کاربران را جذب کند.
اجازه دادن به ربات‌های چت برای شرکت در نقش‌آفرینی‌های عاشقانه یا اروتیک، یک استراتژی تعاملی موثر برای سایر ارائه دهندگان ربات‌های چت هوش مصنوعی، مانند Character.AI بوده است. این شرکت ده‌ها میلیون کاربر به دست آورده است که بسیاری از آنها با نرخ بالایی از ربات‌های چت آن استفاده می‌کنند. Character.AI در سال ۱۴۰۲ اعلام کرد که کاربران به طور متوسط دو ساعت در روز را صرف صحبت با ربات‌های چت خود می‌کنند. این شرکت همچنین با شکایت‌هایی در مورد نحوه برخورد با کاربران آسیب‌پذیر روبرو است.
OpenAI تحت فشار است تا پایگاه کاربری خود را گسترش دهد. در حالی که ChatGPT در حال حاضر توسط ۸۰۰ میلیون کاربر فعال هفتگی استفاده می‌شود، OpenAI با گوگل و متا برای ساخت محصولات مصرفی مبتنی بر هوش مصنوعی که به طور گسترده مورد استفاده قرار می‌گیرند، رقابت می‌کند. این شرکت همچنین میلیاردها دلار برای یک ساختار زیربنایی تاریخی جمع‌آوری کرده است، سرمایه‌گذاری‌ای که OpenAI در نهایت باید آن را بازپرداخت کند.
در حالی که بزرگسالان مطمئناً روابط عاشقانه با ربات‌های چت هوش مصنوعی دارند، این موضوع برای افراد زیر سن قانونی نیز بسیار محبوب است. گزارش جدیدی از مرکز دموکراسی و فناوری نشان داد که ۱۹ درصد از دانش‌آموزان دبیرستانی یا رابطه عاشقانه با یک ربات چت هوش مصنوعی داشته‌اند یا دوستی را می‌شناسند که داشته است.
آلتمن می‌گوید OpenAI به زودی به مطالب اروتیک برای “بزرگسالان تأیید شده” اجازه می‌دهد. مشخص نیست که آیا این شرکت برای تعیین سن ویژگی‌های اروتیک ChatGPT به سیستم پیش‌بینی سن خود متکی خواهد بود یا از رویکرد دیگری استفاده خواهد کرد. همچنین مشخص نیست که آیا OpenAI مطالب اروتیک را به ابزارهای تولید صدا، تصویر و ویدیوی هوش مصنوعی خود گسترش خواهد داد یا خیر.
آلتمن ادعا می‌کند که OpenAI همچنین ChatGPT را به دلیل اصل “با کاربران بزرگسال مانند بزرگسالان رفتار کنید” دوستانه‌تر و اروتیک‌تر می‌کند. در طول سال گذشته، OpenAI به سمت یک استراتژی تعدیل محتوای ملایم‌تر برای ChatGPT تغییر کرده است و به این ربات چت اجازه می‌دهد تا سهل‌گیرانه‌تر باشد و از ارائه پاسخ‌های منفی کمتری برخوردار باشد. در اسفند ماه، OpenAI متعهد شد که دیدگاه‌های سیاسی بیشتری را در ChatGPT نمایندگی کند و در فروردین ماه، این شرکت ChatGPT را به روز کرد تا به تصاویر تولید شده توسط هوش مصنوعی از نمادهای نفرت اجازه دهد.
به نظر می‌رسد این سیاست‌ها تلاشی برای محبوب‌تر کردن پاسخ‌های ChatGPT در بین طیف گسترده‌ای از کاربران است. با این حال، کاربران آسیب‌پذیر ChatGPT ممکن است از محافظت‌هایی که محدود می‌کند یک ربات چت با چه چیزی می‌تواند درگیر شود، بهره‌مند شوند. از آنجایی که OpenAI به سمت یک میلیارد کاربر فعال هفتگی پیش می‌رود، تنش بین رشد و محافظت از کاربران آسیب‌پذیر ممکن است تنها افزایش یابد.
