روز پنجشنبه، شرکت باکس کنفرانس توسعه‌دهندگان خود، باکس‌ورکس (Boxworks) را با معرفی مجموعه‌ای جدید از قابلیت‌های هوش مصنوعی آغاز کرد و مدل‌های هوش مصنوعی عامل‌محور را در زیرساخت اصلی محصولات خود گنجاند.
تعداد معرفی محصولات در این کنفرانس بیشتر از حد معمول بود که نشان‌دهنده سرعت روزافزون توسعه هوش مصنوعی در این شرکت است: باکس استودیوی هوش مصنوعی خود را سال گذشته راه‌اندازی کرد و پس از آن، مجموعه‌ای جدید از عوامل استخراج داده را در بهمن ماه و عوامل دیگری برای جستجو و تحقیقات عمیق را در اردیبهشت ماه معرفی کرد.
اکنون، این شرکت سیستم جدیدی به نام باکس اتومیت (Box Automate) را عرضه می‌کند که به عنوان نوعی سیستم‌عامل برای عوامل هوش مصنوعی عمل می‌کند و گردش‌های کاری را به بخش‌های مختلفی تقسیم می‌کند که می‌توان در صورت لزوم آن‌ها را با هوش مصنوعی تقویت کرد.
من با آرون لوی، مدیرعامل شرکت، در مورد رویکرد شرکت به هوش مصنوعی و کار مخاطره‌آمیز رقابت با شرکت‌های مدل پایه صحبت کردم. جای تعجب نبود که او در مورد امکانات عوامل هوش مصنوعی در محیط کار مدرن بسیار خوشبین بود، اما در مورد محدودیت‌های مدل‌های فعلی و نحوه مدیریت این محدودیت‌ها با فناوری‌های موجود نیز دید روشنی داشت.
این مصاحبه برای طول و وضوح ویرایش شده است.
خبرنگار: شما امروز مجموعه‌ای از محصولات هوش مصنوعی را معرفی می‌کنید، بنابراین می‌خواهم با پرسیدن در مورد دیدگاه کلی شروع کنم. چرا عوامل هوش مصنوعی را در یک سرویس مدیریت محتوای ابری ایجاد می‌کنید؟
آرون لوی: چیزی که ما تمام روز به آن فکر می‌کنیم – و تمرکز ما در باکس روی آن است – این است که کار تا چه حد به دلیل هوش مصنوعی در حال تغییر است. و بیشترین تأثیر در حال حاضر بر گردش‌های کاری است که شامل داده‌های بدون ساختار هستند. ما قبلاً توانسته‌ایم هر چیزی را که با داده‌های ساختاریافته‌ای که وارد یک پایگاه داده می‌شود، خودکار کنیم. اگر به سیستم‌های CRM، سیستم‌های ERP، سیستم‌های HR فکر کنید، ما سال‌ها اتوماسیون در این فضا داشته‌ایم. اما جایی که هرگز اتوماسیون نداشته‌ایم، هر چیزی است که داده‌های بدون ساختار را لمس می‌کند.
به هر نوع فرآیند بررسی قانونی، هر نوع فرآیند مدیریت دارایی بازاریابی، هر نوع بررسی معامله M&A فکر کنید – همه این گردش‌های کاری با حجم زیادی از داده‌های بدون ساختار سروکار دارند. افراد باید آن داده‌ها را بررسی کنند، آن‌ها را به‌روزرسانی کنند، تصمیم‌گیری کنند و غیره. ما هرگز نتوانسته‌ایم اتوماسیون زیادی را به این گردش‌های کاری وارد کنیم. ما توانسته‌ایم آن‌ها را به نوعی در نرم‌افزار توصیف کنیم، اما رایانه‌ها به اندازه کافی در خواندن یک سند یا نگاه کردن به یک دارایی بازاریابی خوب نبوده‌اند.
بنابراین برای ما، عوامل هوش مصنوعی به این معنی هستند که برای اولین بار می‌توانیم واقعاً از تمام این داده‌های بدون ساختار استفاده کنیم.
خبرنگار: خطرات استقرار عوامل در یک زمینه تجاری چیست؟ برخی از مشتریان شما باید در مورد استقرار چیزی شبیه به این بر روی داده‌های حساس عصبی باشند.
لوی: چیزی که ما از مشتریان می‌بینیم این است که آن‌ها می‌خواهند بدانند که هر بار که آن گردش کار را اجرا می‌کنند، عامل کم و بیش به همان روش، در همان نقطه در گردش کار، اجرا می‌شود و چیزها از مسیر خارج نمی‌شوند. شما نمی‌خواهید یک عامل اشتباهاتی را ترکیب کند، به طوری که پس از انجام چند صد بار ارسال اول، شروع به سرکشی کند.
داشتن نقاط تحدید حدود مناسب، جایی که عامل شروع می‌شود و سایر قسمت‌های سیستم پایان می‌یابند، بسیار مهم می‌شود. برای هر گردش کار، این سوال وجود دارد که چه چیزی نیاز به محافظ‌های قطعی دارد و چه چیزی می‌تواند کاملاً عاملی و غیرقطعی باشد.
کاری که می‌توانید با باکس اتومیت انجام دهید این است که تصمیم بگیرید هر عامل منفرد قبل از تحویل دادن به یک عامل دیگر، چه مقدار کار را انجام دهد. بنابراین ممکن است یک عامل ارسال داشته باشید که از عامل بررسی جدا باشد و غیره. این به شما امکان می‌دهد اساساً عوامل هوش مصنوعی را در مقیاس بزرگ در هر نوع گردش کار یا فرآیند تجاری در سازمان مستقر کنید.
خبرنگار: با تقسیم گردش کار از چه نوع مشکلاتی جلوگیری می‌کنید؟
لوی: ما قبلاً برخی از محدودیت‌ها را حتی در پیشرفته‌ترین سیستم‌های کاملاً عاملی مانند Claude Code دیده‌ایم. در مقطعی از کار، مدل از نظر فضای پنجره زمینه برای ادامه تصمیم‌گیری‌های خوب، فضا کم می‌آورد. در حال حاضر در هوش مصنوعی غذای مجانی وجود ندارد. شما نمی‌توانید فقط یک عامل طولانی‌مدت با پنجره زمینه نامحدود داشته باشید که به دنبال هر کاری در کسب و کار شما باشد. بنابراین شما باید گردش کار را بشکنید و از زیرعامل‌ها استفاده کنید.
من فکر می‌کنم ما در عصر زمینه در هوش مصنوعی هستیم. مدل‌ها و عوامل هوش مصنوعی به زمینه نیاز دارند و زمینه‌ای که آن‌ها برای کار کردن نیاز دارند، در داخل داده‌های بدون ساختار شما قرار دارد. بنابراین کل سیستم ما واقعاً برای این طراحی شده است که بفهمد چه زمینه‌ای را می‌توانید به عامل هوش مصنوعی بدهید تا اطمینان حاصل شود که آن‌ها تا حد امکان به طور موثر عمل می‌کنند.
خبرنگار: بحث بزرگ‌تری در صنعت در مورد مزایای مدل‌های مرزی بزرگ و قدرتمند در مقایسه با مدل‌هایی که کوچک‌تر و قابل‌اعتمادتر هستند وجود دارد. آیا این شما را در طرف مدل‌های کوچک‌تر قرار می‌دهد؟
لوی: احتمالاً باید توضیح دهم: هیچ چیز در مورد سیستم ما مانع از این نمی‌شود که کار به طور دلخواه طولانی یا پیچیده باشد. کاری که ما سعی در انجام آن داریم این است که محافظ‌های مناسبی ایجاد کنیم تا شما تصمیم بگیرید که چقدر می‌خواهید آن کار عاملی باشد.
ما فلسفه خاصی در مورد اینکه افراد در کجای این پیوستار باید قرار بگیرند، نداریم. ما فقط سعی در طراحی یک معماری مقاوم در برابر آینده داریم. ما این را به گونه‌ای طراحی کرده‌ایم که با بهبود مدل‌ها و بهبود قابلیت‌های عاملی، شما تمام آن مزایا را مستقیماً در پلتفرم ما دریافت خواهید کرد.
خبرنگار: نگرانی دیگر کنترل داده است. از آنجایی که مدل‌ها روی داده‌های زیادی آموزش داده می‌شوند، این ترس واقعی وجود دارد که داده‌های حساس بازتولید یا مورد سوء استفاده قرار گیرند. چگونه این در نظر گرفته می‌شود؟
لوی: این جایی است که بسیاری از استقرار هوش مصنوعی اشتباه پیش می‌روند. مردم فکر می‌کنند: “هی، این آسان است. من به یک مدل هوش مصنوعی دسترسی به تمام داده‌های بدون ساختار خود می‌دهم و به سوالات مردم پاسخ می‌دهد.” و سپس شروع به دادن پاسخ‌هایی در مورد داده‌هایی می‌کند که شما به آن‌ها دسترسی ندارید یا نباید به آن‌ها دسترسی داشته باشید. شما به یک لایه بسیار قدرتمند نیاز دارید که کنترل‌های دسترسی، امنیت داده، مجوزها، حاکمیت داده، انطباق، همه چیز را مدیریت کند.
بنابراین ما از چند دهه که صرف ساختن سیستمی کرده‌ایم که اساساً دقیقاً این مشکل را حل می‌کند، بهره می‌بریم: چگونه اطمینان حاصل می‌کنید که فقط فرد مناسب به هر قطعه داده در شرکت دسترسی دارد؟ بنابراین وقتی یک عامل به سوالی پاسخ می‌دهد، شما به طور قطعی می‌دانید که نمی‌تواند از هیچ داده‌ای که آن شخص نباید به آن دسترسی داشته باشد، استفاده کند. این چیزی است که به طور اساسی در سیستم ما ساخته شده است.
خبرنگار: در اوایل این هفته، Anthropic ویژگی جدیدی را برای آپلود مستقیم فایل‌ها در Claude.ai منتشر کرد. این راهی طولانی از نوع مدیریت فایلی است که باکس انجام می‌دهد، اما شما باید در مورد رقابت احتمالی از شرکت‌های مدل پایه فکر کنید. چگونه به این موضوع از نظر استراتژیک نزدیک می‌شوید؟
لوی: بنابراین اگر به این فکر کنید که شرکت‌ها هنگام استقرار هوش مصنوعی در مقیاس بزرگ به چه چیزی نیاز دارند، آن‌ها به امنیت، مجوزها و کنترل نیاز دارند. آن‌ها به رابط کاربری نیاز دارند، آن‌ها به APIهای قدرتمند نیاز دارند، آن‌ها می‌خواهند انتخاب خود را از مدل‌های هوش مصنوعی داشته باشند، زیرا یک روز، یک مدل هوش مصنوعی برخی از موارد استفاده را برای آن‌ها تامین می‌کند که بهتر از دیگری است، اما ممکن است تغییر کند و آن‌ها نمی‌خواهند در یک پلتفرم خاص قفل شوند.
بنابراین چیزی که ما ساخته‌ایم سیستمی است که به شما امکان می‌دهد به طور موثر تمام آن قابلیت‌ها را داشته باشید. ما ذخیره‌سازی، امنیت، مجوزها، جاسازی برداری را انجام می‌دهیم و به هر مدل هوش مصنوعی پیشرو که در آنجا وجود دارد متصل می‌شویم.
منبع : techcrunch.com
