انحلال تیم همسویی ماموریت در OpenAI: تاثیر بر توسعه هوش مصنوعی ایمن و قابل اعتماد
“`html
شرکت OpenAI تیمی را که به گفته خودشان مسئول اطمینان از «امنیت، اعتمادپذیری و هماهنگی پیوسته سیستمهای هوش مصنوعی با ارزشهای انسانی» بود، منحل کرده است. در عین حال، رهبر سابق این تیم نیز اکنون به عنوان «آیندهنگر ارشد» شرکت منصوب شده است.
یک سخنگو از OpenAI به خبرنگار تأیید کرد که اعضای این تیم اکنون به دیگر بخشهای شرکت منتقل شدهاند. این خبر نخستین بار توسط منبع دیگری گزارش شده است.
تیم منحل شده که به نظر میرسد در شهریور ۱۴۰۳ تشکیل شده بود، واحد داخلی استارتاپ برای کار بر روی موضوع هماهنگی بود. این حوزه، بخشی گسترده از صنعت را شامل میشود که تلاش میکند تضمین کند هوش مصنوعی مطابق با منافع انسانی عمل میکند.
در وبلاگ تحقیقات هماهنگی OpenAI آمده است: «ما میخواهیم این سیستمها بهطور پیوسته نیت انسانی را در شرایط پیچیده دنیای واقعی و حتی در مواجهه با موقعیتهای دشوار و متخاصم دنبال کنند، از رفتارهای فاجعهبار پرهیز کنند و همواره قابل کنترل، ارزیابی و هماهنگ با ارزشهای انسانی باقی بمانند.»
در یک آگهی شغلی برای تیم هماهنگی OpenAI، این تیم چنین توصیف شده است: «اختصاص داده شده به پژوهش در حوزه هوش مصنوعی که بر توسعه روشهایی تمرکز دارد که باعث میشود هوش مصنوعی بتواند به نحوی پایدار، نیت انسانی را در بازه وسیعی از سناریوها، از جمله شرایط متخاصم یا پرمخاطره، دنبال کند.»
در یک پست وبلاگی که روز چهارشنبه منتشر شد، «جاش اچیام»، سرپرست سابق تیم هماهنگی OpenAI، نقش جدید خود را به عنوان آیندهنگر ارشد شرکت شرح داد. اچیام نوشت: «هدف من حمایت از ماموریت OpenAI — اطمینان از اینکه هوش مصنوعی عمومی به نفع همه بشریت باشد — از طریق مطالعه اینکه جهان در واکنش به هوش مصنوعی، هوش عمومی و فراتر از آن چگونه تغییر خواهد کرد، است.»
اچیام همچنین اشاره کرد که در نقش جدید خود با «جیسون پروئت»، فیزیکدان عضو بخش فنی OpenAI همکاری خواهد کرد.
یکی از سخنگویان OpenAI بیان کرد که دیگر اعضای تیم هماهنگی — یک گروه شش یا هفت نفره — پس از این تغییر به بخشهای مختلف شرکت منتقل شدهاند. سخنگو بیان کرد که مشخص نیست دقیقاً هر یک از اعضا به کدام بخش رفتهاند، اما فعالیت آنها مشابه نقش پیشین خود باقی مانده است. همچنین مشخص نیست که اچیام در نقش «آیندهنگر ارشد» تیم جدیدی خواهد داشت یا نه.
این سخنگو علت انحلال این تیم را به تغییرات معمولی نسبت داد که معمولاً در شرکتهای پویا و در حال رشد رخ میدهد.
شرکت OpenAI پیشتر دارای تیمی به نام «تیم سوپرهمسویی» بود — که در سال ۱۴۰۲ و با هدف مطالعه تهدیدهای وجودی بلندمدت ناشی از هوش مصنوعی تشکیل شد — اما این تیم هم در سال ۱۴۰۳ منحل شد.
در وبسایت شخصی اچیام همچنان او به عنوان رئیس هماهنگی ماموریت OpenAI معرفی شده است و علاقه خود را به اطمینان از «آینده مطلوب بلندمدت بشریت» بیان کرده است. پروفایل لینکدین او نیز نشان میدهد که از شهریور ۱۴۰۳ به عنوان رئیس هماهنگی ماموریت فعالیت داشته است.
“`
