در اتفاقی که ممکن است نخستین توافق حقوقی مهم صنعت فناوری درباره آسیبهای ناشی از هوش مصنوعی باشد، گوگل و شرکت نوپا Character.AI در حال مذاکره با خانوادههایی هستند که نوجوانانشان پس از گفتگو با چتباتهای Character.AI، اقدام به خودکشی یا آسیبرساندن به خود کردهاند. طرفین در اصل بر سر توافق به نتیجه رسیدهاند و اکنون بخش دشوارتر، یعنی نهایی کردن جزئیات باقی مانده است.
این موارد از نخستین توافقها در دعاوی حقوقی هستند که شرکتهای هوش مصنوعی را به آسیب رساندن به کاربران متهم میکنند؛ حوزهای حقوقی که احتمالاً شرکتهایی مانند OpenAI و متا را نیز به دقت نگران کرده، چرا که آنان هماکنون درگیر دعاوی مشابهی هستند.
Character.AI که در سال ۱۴۰۰ توسط مهندسان سابق گوگل تأسیس شد و این مهندسان در سال ۱۴۰۳ طی قراردادی به ارزش ۲.۷ میلیارد دلار به کارفرمای سابق خود بازگشتند، به کاربران پیشنهاد میدهد با شخصیتهای هوش مصنوعی گفتگو کنند. جدیترین پرونده مربوط به سوئل ستزر سوم است که در ۱۴ سالگی با یک ربات به نام «دنریس تارگرین» گفتگوهای جنسی انجام داد و سپس خودکشی کرد. مادر او، مگان گارسیا، به سنا گفته است که شرکتها باید «در صورتی که به طور آگاهانه فناوریهای زیانآور هوش مصنوعی را طراحی کنند که منجر به مرگ کودکان میشود، به لحاظ قانونی پاسخگو باشند.»
در شکایت دیگری، نوجوانی ۱۷ ساله حضور دارد که چتبات او را به خودآزاری تشویق کرده و حتی پیشنهاد داده بود که کشتن والدینش، به دلیل محدود کردن زمان استفاده از وسایل دیجیتال، معقول است. Character.AI در مهر ۱۴۰۲ اعلام کرد که استفاده افراد زیر سن قانونی را ممنوع کرده است. احتمالاً این توافقها شامل پرداخت خسارت مالی خواهد بود، هرچند طبق اسنادی که چهارشنبه منتشر شد، هیچ پذیرش مسئولیتی در دادگاه ثبت نشده است.
خبرنگار با هر دو شرکت تماس گرفته است.
