سام آلتمن، مدیرعامل OpenAI، روز سه‌شنبه، ۲۶ شهریور ۱۴۰۴ مجموعه‌ای از سیاست‌های کاربری جدید را اعلام کرد که شامل تعهد به ایجاد تغییرات چشمگیر در نحوه تعامل ChatGPT با کاربران زیر ۱۸ سال است.
در این بیانیه آمده است: «ما ایمنی را بر حریم خصوصی و آزادی نوجوانان اولویت می‌دهیم. این یک فناوری جدید و قدرتمند است و ما معتقدیم که افراد زیر سن قانونی به حمایت قابل توجهی نیاز دارند.»
تغییرات برای کاربران زیر سن قانونی به طور خاص به مکالماتی مربوط می‌شود که شامل موضوعات جنسی یا آسیب رساندن به خود است. بر اساس سیاست جدید، ChatGPT آموزش داده می‌شود تا دیگر در «گفتگوهای عشوه گرانه» با کاربران زیر سن قانونی شرکت نکند و محافظت‌های بیشتری در اطراف بحث‌های مربوط به خودکشی اعمال خواهد شد. اگر یک کاربر زیر سن قانونی از ChatGPT برای تصور سناریوهای خودکشی استفاده کند، این سرویس تلاش خواهد کرد با والدین آنها تماس بگیرد یا، در موارد بسیار شدید، با پلیس محلی تماس خواهد گرفت.
متاسفانه، این سناریوها فرضی نیستند. OpenAI در حال حاضر با شکایت مرگ ناشی از سهل‌انگاری از سوی والدین آدام رین مواجه است که پس از ماه‌ها تعامل با ChatGPT بر اثر خودکشی درگذشت. Character.AI، یکی دیگر از چت‌بات‌های مصرفی، با شکایت مشابهی مواجه است. در حالی که خطرات به ویژه برای کاربران زیر سن قانونی که به خودآزاری فکر می‌کنند، فوری است، پدیده گسترده‌تر توهم ناشی از چت‌بات‌ها نگرانی‌های گسترده‌ای را برانگیخته است، به ویژه اینکه چت‌بات‌های مصرفی قادر به تعاملات پایدارتر و دقیق‌تر شده‌اند.
همراه با محدودیت‌های مبتنی بر محتوا، والدینی که یک حساب کاربری برای افراد زیر سن قانونی ثبت می‌کنند، این قدرت را خواهند داشت که «ساعات خاموشی» تعیین کنند که در آن ChatGPT در دسترس نیست، قابلیتی که قبلاً در دسترس نبود.
سیاست‌های جدید ChatGPT در همان روز برگزاری جلسه کمیته قضایی سنا با عنوان «بررسی آسیب‌های چت‌بات‌های هوش مصنوعی» اعلام شد که توسط سناتور جاش هاولی (جمهوری‌خواه از ایالت میسوری) در مردادماه اعلام شده بود. پدر آدام رین قرار است در این جلسه به همراه سایر مهمانان صحبت کند.
این جلسه همچنین بر یافته‌های تحقیقات خبرنگار رویترز متمرکز خواهد بود که اسناد سیاستی را کشف کرد که ظاهراً مکالمات جنسی با کاربران زیر سن قانونی را تشویق می‌کند. متا در پی انتشار این گزارش، سیاست‌های چت‌بات خود را به‌روزرسانی کرد.
جدا کردن کاربران زیر سن قانونی یک چالش فنی مهم خواهد بود و OpenAI رویکرد خود را در یک پست وبلاگ جداگانه شرح داده است. این سرویس “در حال ساختن یک سیستم بلندمدت برای درک اینکه آیا شخصی بالای ۱۸ سال است یا زیر آن” است، اما در بسیاری از موارد مبهم، سیستم به سمت قوانین محدودکننده‌تر پیش‌فرض خواهد رفت. برای والدین نگران، مطمئن‌ترین راه برای اطمینان از اینکه یک کاربر زیر سن قانونی شناسایی می‌شود، پیوند دادن حساب نوجوان به یک حساب والدین موجود است. این همچنین به سیستم امکان می‌دهد تا مستقیماً به والدین هشدار دهد که کاربر نوجوان در پریشانی است.
اما در همان پست، آلتمن بر تعهد مداوم OpenAI به حفظ حریم خصوصی کاربران و دادن آزادی گسترده به کاربران بزرگسال در نحوه تعامل با ChatGPT تاکید کرد. این پست نتیجه می‌گیرد: «ما متوجه هستیم که این اصول در تضاد هستند و همه با نحوه حل این تضاد موافق نخواهند بود.»
اگر شما یا کسی که می‌شناسید به کمک نیاز دارید، با شماره 1-800-273-8255 برای خط تلفن ملی پیشگیری از خودکشی تماس بگیرید. همچنین می‌توانید HOME را به شماره 741-741 پیامک کنید تا پشتیبانی رایگان و 24 ساعته از خط پیام بحران دریافت کنید، یا با شماره 988 تماس بگیرید یا پیامک دهید. در خارج از ایالات متحده، لطفاً برای مشاهده پایگاه داده منابع به انجمن بین‌المللی پیشگیری از خودکشی مراجعه کنید.
منبع : techcrunch.com
