Character.AI روز سه‌شنبه اعلام کرد که در حال راه‌اندازی “Stories” است، یک فرمت جدید که به کاربران امکان می‌دهد داستان‌های تعاملی بسازند که شخصیت‌های مورد علاقه‌شان در آن حضور دارند. این ویژگی به عنوان جایگزینی برای چت‌بات‌های این شرکت ارائه می‌شود، که از این هفته دیگر برای کاربران زیر 18 سال در دسترس نیست.
این تغییر به دنبال نگرانی‌های فزاینده در مورد خطرات سلامت روان ناشی از چت‌بات‌های هوش مصنوعی است که به صورت 24 ساعته در دسترس هستند و می‌توانند مکالمات را با کاربران آغاز کنند. چندین پرونده حقوقی علیه شرکت‌هایی مانند OpenAI و Character.AI به دلیل نقش ادعایی آن‌ها در خودکشی کاربران تشکیل شده است. در طول ماه گذشته، Character.AI به آرامی دسترسی افراد زیر سن قانونی را محدود کرده است و از روز سه‌شنبه، کاربران زیر سن قانونی دیگر نمی‌توانند با شخصیت‌های هوش مصنوعی آن چت کنند.
این شرکت در پست وبلاگی خود اعلام کرد: «Stories روشی هدایت‌شده برای ایجاد و کشف داستان است، به‌جای چت‌های بدون محدودیت». «این ویژگی در کنار سایر ویژگی‌های چندوجهی ما ارائه می‌شود، بنابراین نوجوانان می‌توانند به تعامل با شخصیت‌های مورد علاقه‌شان در یک محیط ایمن ادامه دهند.»
داستان‌های تعاملی در چند سال گذشته شاهد افزایش محبوبیت بوده‌اند، بنابراین تغییر جهت Character.AI منطقی است. اما ممکن است برای کاربرانی که بیش از حد به چت‌بات‌ها وابسته شده‌اند کافی نباشد – که این خود دلیل محکم‌تری برای موجه بودن تصمیم Character.AI برای محدود کردن دسترسی به چت‌بات‌ها است.
در ساب‌ردیت Character.AI، واکنش‌ها متفاوت است. طبق نظرات آن‌ها، برخی از نوجوانان می‌گویند که در حالی که ناامید شده‌اند، فکر می‌کنند که در نهایت این حرکت درستی است.
یکی از کاربران که خود را نوجوان معرفی کرده است، نوشت: “من از این ممنوعیت خیلی عصبانی هستم، اما در عین حال خیلی خوشحالم، زیرا اکنون می‌توانم کارهای دیگری انجام دهم و اعتیادم ممکن است بالاخره تمام شود.”
فرد دیگری گفت: “من که زیر 18 سال دارم، فقط ناامید شده‌ام. اما حق با آنهاست، زیرا افراد هم سن و سال من در اینجا به این موضوع معتاد می‌شوند.”
هنوز مشخص نیست که نوجوانان چگونه از ویژگی Stories استفاده خواهند کرد، اما این فرمت از نظر روانی کم‌تر از ایفای نقش با چت‌بات‌ها جای تردید دارد. برخلاف Stories، چت‌بات‌ها به طور مستقیم با کاربران در مکالمات بدون محدودیت تعامل دارند و می‌توانند پیام‌های ناخواسته ارسال کنند، حتی زمانی که کاربران به طور فعال از برنامه استفاده نمی‌کنند.
تصمیم Character.AI برای تعیین محدودیت سنی برای دسترسی به چت‌بات‌ها در زمانی گرفته می‌شود که کالیفرنیا به تازگی به اولین ایالت تبدیل شده است که همراهان هوش مصنوعی را تنظیم می‌کند. در همین حال، سناتورها جاش هاولی (جمهوری‌خواه از میسوری) و ریچارد بلومنتال (دموکرات از کانکتیکات) یک لایحه ملی را معرفی کرده‌اند که همراهان هوش مصنوعی را به طور کلی برای افراد زیر سن قانونی ممنوع می‌کند.
کاراندپ آناند، مدیرعامل Character.AI، ماه گذشته به خبرنگار گفت: “من واقعاً امیدوارم که پیشگامی ما استانداردی را در صنعت تعیین کند که برای افراد زیر 18 سال، چت‌های بدون محدودیت احتمالاً مسیر یا محصولی برای ارائه نیست.”
