در یکی از روزهای آبان، یک استراتژیست محصول که او را «میشل» مینامیم (نام واقعی او نیست)، وارد حساب لینکدین خود شد و جنسیتش را به مرد تغییر داد. او همچنین نامش را به مایکل تغییر داد، او به خبرنگار گفت.
او در حال شرکت در آزمایشی به نام #WearthePants بود که در آن زنان فرضیهای را میآزمودند مبنی بر اینکه الگوریتم جدید لینکدین به ضرر زنان عمل میکند.
ماهها بود که برخی کاربران پرفعال لینکدین از کاهش تعامل و بازدید در این شبکه اجتماعی شغلی شکایت داشتند. این موضوع پس از آن پیش آمد که معاون مهندسی شرکت، تیم جورکا، در مرداد اعلام کرد که این پلتفرم «اخیراً» از مدلهای زبانی بزرگ (LLM) برای نمایش محتوای مفید به کاربران استفاده کرده است.
میشل (که هویت واقعی او نزد خبرنگار مشخص است) نسبت به این تغییرات مشکوک بود، چرا که بیش از ۱۰ هزار دنبالکننده دارد و پستهایی را برای همسرش که حدود ۲ هزار دنبالکننده دارد، مینویسد. با این وجود، او و همسرش علیرغم تفاوت در تعداد دنبالکنندگان، تقریباً تعداد بازدید پست مشابهی دریافت میکردند.
او گفت: «تنها متغیر قابل توجه، جنسیت بود.»
مرلین جوینر، یک کارآفرین دیگر نیز جنسیت پروفایل خود را تغییر داد. او دو سال است به طور مداوم در لینکدین مطلب میگذارد و متوجه شد که اخیراً میزان نمایش پستهایش کاهش یافته است. او به خبرنگار گفت: «جنسیت خود را از زن به مرد تغییر دادم و بازدیدهای من طی یک روز ۲۳۸ درصد افزایش یافت.»
مگان کورنیش، رزی تیلور، جسیکا دویل مککس، ابی نیدام، فیلیسیتی منزیس، لوسی فرگوسن و برخی دیگر نتایج مشابهی را گزارش کردند.
لینکدین اعلام کرد که «الگوریتم و سامانههای هوشمند این پلتفرم از اطلاعات جمعیتشناختی مانند سن، نژاد یا جنسیت به عنوان سیگنال برای تعیین میزان نمایش محتوا، پروفایل یا پستها در فید استفاده نمیکنند» و همچنین «عکس فوری از بروزرسانی فید شما که کاملاً نماینده یا برابر در میزان دسترسی نیست، لزوماً به معنای رفتار ناعادلانه یا تعصب درون فید محسوب نمیشود».
کارشناسان الگوریتمهای اجتماعی نیز موافقاند که تبعیض مستقیم جنسیتی ممکن است وجود نداشته باشد، هرچند تعصب ضمنی میتواند اثرگذار باشد.
پلتفرمها «ارکستری پیچیده از الگوریتمها هستند که به طور همزمان و دائمی اهرمهای ریاضی و اجتماعی مختلفی را فعال میکنند»، براندیس مارشال، مشاور اخلاق داده، به خبرنگار گفت.
او افزود: «تغییر عکس پروفایل و نام تنها یکی از این اهرمهاست» و الگوریتم همچنین تحت تأثیر این است که کاربر چگونه با محتوا تعامل میکند.
مارشال گفت: «ما نمیدانیم سایر اهرمهایی که باعث میشوند این الگوریتم محتوای یک نفر را نسبت به دیگری در اولویت قرار دهد، چه هستند. این موضوع بسیار پیچیدهتر از چیزی است که مردم تصور میکنند.»
کدنویسی مردانه
آزمایش #WearthePants توسط دو کارآفرین به نامهای سیندی گالوپ و جین ایوانز آغاز شد.
آنها از دو مرد خواستند همان محتوایی را منتشر کنند که خودشان میگذارند، تا متوجه شوند آیا جنسیت دلیل کاهش تعامل زنان است. گالوپ و ایوانز در مجموع بیش از ۱۵۰ هزار دنبالکننده داشتند، در حالی که دو مرد در آن زمان حدود ۹۴۰۰ دنبالکننده داشتند.
گالوپ گزارش داد که پست او فقط به ۸۰۱ نفر رسید، ولی مردی که دقیقاً همان محتوا را منتشر کرده بود، به ۱۰٬۴۰۸ نفر یعنی بیش از ۱۰۰٪ دنبالکنندگانش دسترسی پیدا کرد. سایر زنان نیز در این آزمایش شرکت کردند. برخی مانند جوینر که برای بازاریابی کسبوکارش از لینکدین استفاده میکند، نگران شدند.
جوینر گفت: «واقعاً دوست دارم لینکدین مسئولیت هرگونه تعصبی که ممکن است در الگوریتمش وجود داشته باشد را بپذیرد.»
اما لینکدین، مانند سایر پلتفرمهای مبتنی بر مدلهای زبانی بزرگ، اطلاعات کمی درباره نحوه آموزش مدلهای انتخاب محتوا ارائه میدهد.
مارشال گفت اکثر این پلتفرمها به طور ذاتی نگاه سفید، مردانه و غربی دارند، چون افرادی که این مدلها را آموزش دادهاند، چنین دیدگاهی داشتهاند. پژوهشگران شواهدی از تعصبات انسانی مانند جنسیتگرایی یا نژادپرستی در مدلهای بزرگ زبانی یافتهاند، زیرا این مدلها بر پایه محتوای تولیدشده توسط انسان هستند و انسانها مستقیماً در آموزش تکمیلی دخیلاند.
با این حال، نحوه پیادهسازی سامانههای هوش مصنوعی در هر شرکت، در هالهای از رمز و راز الگوریتمی باقی میماند.
لینکدین اعلام کرد آزمایش #WearthePants نمیتواند وجود تعصب جنسیتی نسبت به زنان را ثابت کند. بیانیه جورکا در مرداد و تأییدیه ساکشی جین (مسئول هوشمصنوعی مسئولانه و حاکمیت لینکدین) در آبان تأکید دارد که سامانهها از اطلاعات جمعیتشناختی برای افزایش دیده شدن استفاده نمیکنند.
لینکدین به خبرنگار گفت که میلیونها پست را آزمایش میکند تا کاربران را به فرصتها متصل کند. این شرکت گفت از دادههای جمعیتشناختی فقط برای آزمایشهایی مانند بررسی این که پستها «از تولیدکنندگان مختلف در شرایط برابر رقابت کنند و تجربه اسکرول کردن و آنچه در فید دیده میشود، برای همه مخاطبان یکسان باشد» استفاده میکند.
لینکدین به خاطر تحقیق و اصلاح الگوریتمش برای ارائه تجربهای عادلانهتر برای کاربران معروف است.
مارشال میگوید احتمالا متغیرهای ناشناخته باعث افزایش بازدید برخی زنان بعد از تغییر جنسیت پروفایل شده است. شرکت در یک روند ویروسی، مثلا، میتواند باعث افزایش تعامل شود؛ برخی حسابها برای اولین بار پس از مدتها پست گذاشتهاند و الگوریتم ممکن است به این رفتار پاداش داده باشد.
لحن و سبک نگارش نیز میتواند اثرگذار باشد. مثلا میشل میگوید هفتهای که با نام «مایکل» پست گذاشت، لحن خود را اندکی سادهتر و مستقیمتر، مشابه نوشتن برای همسرش، تغییر داد. در این زمان، تعداد بازدیدها ۲۰۰٪ و تعاملات ۲۷٪ افزایش یافت.
او نتیجه گرفت که سامانه به طور «صریح جنسیتزده نیست»، اما به نظر میرسد سبکهای ارتباطی که به طور سنتی به زنان نسبت داده میشود را به عنوان «معادل ارزش کمتر» در نظر میگیرد.
سبکهای کلیشهای مردانه معمولاً موجزتر و سبک نگارش زنان لطیفتر و احساسیتر فرض میشود. اگر یک مدل بزرگ زبانی به گونهای آموزش دیده باشد که نوشتار براساس کلیشههای مردانه را ارتقا دهد، این یک تعصب ضمنی است. پژوهشگران پیشتر نیز دریافتهاند که اغلب مدلهای بزرگ زبانی پر از چنین تعصبهایی هستند.
سارا دین، دانشیار علوم کامپیوتر در دانشگاه کورنل، میگوید پلتفرمهایی مانند لینکدین اغلب از کل پروفایل کاربر و رفتار او برای تعیین اینکه چه پستهایی را ارتقا دهند استفاده میکنند. این شامل شغلهای کاربر و نوع محتوایی است که معمولاً با آن تعامل دارد.
دین گفت: «مشخصات فرد میتواند روی هر دو سوی الگوریتم تاثیر بگذارد — هم آنچه میبیند و هم این که چه کسی مطالب او را میبیند.»
لینکدین به خبرنگار گفت که سامانههای هوشمندش صدها سیگنال را برای نمایش محتوا به کاربر بررسی میکنند که شامل دادههایی از پروفایل، شبکه و فعالیت فرد میشود.
یک سخنگو گفت: «ما آزمایشهایی مداوم انجام میدهیم تا بفهمیم چه چیزی به افراد کمک میکند تا مرتبطترین و بهموقعترین محتوا را برای مسیر شغلی خود پیدا کنند. رفتار اعضا نیز فید را شکل میدهد؛ آنچه افراد کلیک میکنند، ذخیره میکنند و با آن تعامل میکنند روزانه تغییر میکند و نوع فرمتی که دوست دارند یا نه نیز همینطور. این رفتارها به طور طبیعی مشخص میکند چه چیزی در فیدها نشان داده شود، در کنار هر گونه بهروزرسانی از سوی ما.»
چاد جانسون، کارشناس فروش فعال در لینکدین، این تغییرات را کاهش اهمیت لایکها، نظرات و بازنشرها توصیف کرد. سامانه مبتنی بر LLM «دیگر اهمیتی نمیدهد که چند بار در روز یا چه ساعتی پست میگذارید، بلکه به این توجه دارد که آیا نوشته شما درک، وضوح و ارزش دارد یا نه.»
همه اینها باعث میشود علت واقعی نتایج #WearthePants به سختی قابل تشخیص باشد.
مردم صرفاً الگوریتم را دوست ندارند
با این حال به نظر میرسد بسیاری از مردم، صرفنظر از جنسیت، یا الگوریتم جدید لینکدین را دوست ندارند یا آن را درک نمیکنند — هر چه که هست.
شایلوِی وکولو، دانشمند داده، به خبرنگار گفت او دستکم یک پست در روز به مدت پنج سال گذاشته و قبلاً هزاران بازدید داشت. اکنون او و همسرش خوششانسند اگر چند صد بازدید بگیرند. او گفت: «این مسئله برای تولیدکنندگان محتوا با دنبالکنندگان وفادار زیاد، دلسردکننده است.»
یک مرد به خبرنگار گفت طی چند ماه گذشته شاهد افت حدود ۵۰ درصدی تعامل بوده است. اما مرد دیگری اظهار داشت که بازدید و گستره پستهایش در همین مدت بیش از ۱۰۰ درصد افزایش یافته. او گفت: «این عمدتاً به این دلیل است که من درباره موضوعات خاص برای مخاطبان خاص مینویسم — چیزی که الگوریتم جدید به آن پاداش میدهد.» او افزود مشتریانش نیز افزایش مشابهی دیدهاند.
مارشال، که سیاهپوست است، معتقد است پستهایی درباره تجربیات خودش بازدهی کمتری دارند تا پستهایی درباره نژادش. او گفت: «اگر زنان سیاه فقط زمانی تعامل دارند که درباره زنان سیاه حرف میزنند اما هنگام صحبت درباره تخصص خود چنین نیست، این یک تعصب است.»
پژوهشگر دیگر، دین، معتقد است ممکن است الگوریتم صرفاً «هر سیگنالی که از قبل وجود دارد را تقویت کند». ممکن است بعضی پستها صرفاً به این دلیل پاداش بگیرند که قبلاً هم در سطح پلتفرم واکنش بیشتری گرفتهاند، نه به دلیل ویژگیهای نویسنده. هرچند مارشال ممکن است به حوزهای دیگر از تعصب ضمنی رسیده باشد، اما شواهد پراکنده کافی نیست تا این را قطعیت داد.
لینکدین برخی نکات درباره آنچه اکنون بهتر عمل میکند ارائه داد. این شرکت اعلام کرد تعداد کاربران افزایش یافته و به همین دلیل انتشار پست ۱۵٪ و تعداد نظرات ۲۴٪ نسبت به سال گذشته رشد داشته است. «این به معنای رقابت بیشتر در فید است.» مواردی مانند بینشهای حرفهای و درسهای شغلی، اخبار و تحلیلهای صنعتی و محتواهای آموزشی و اطلاعرسانی درباره کار، کسبوکار و اقتصاد عملکرد بسیار خوبی دارند.
در هر حال، مردم گیج شدهاند. میشل گفت: «من شفافیت میخواهم.»
اما چون الگوریتمهای انتخاب محتوا همواره به شدت حفاظت میشوند و شفافیت میتواند باعث سوءاستفاده شود، این درخواست بزرگی است که به احتمال زیاد هرگز برآورده نخواهد شد.
