شرکت Anthropic از عرضه یک پیش‌نمایش تحقیقاتی از یک عامل هوش مصنوعی مبتنی بر مرورگر خبر داده که با مدل‌های هوش مصنوعی Claude این شرکت کار می‌کند. این عامل که Claude for Chrome نام دارد، در حال حاضر برای گروهی ۱۰۰۰ نفره از مشترکین طرح Max شرکت Anthropic، با هزینه ماهانه بین ۱۰۰ تا ۲۰۰ دلار، عرضه شده است. این شرکت همچنین یک لیست انتظار را برای سایر کاربران علاقه‌مند باز کرده است.
با افزودن یک افزونه به مرورگر Chrome، کاربران منتخب اکنون می‌توانند با Claude در یک پنجره کناری چت کنند که از تمام اتفاقاتی که در مرورگرشان می‌افتد آگاه است. کاربران همچنین می‌توانند به عامل Claude اجازه دهند در مرورگرشان اقداماتی انجام دهد و برخی از کارها را از طرف آن‌ها تکمیل کند.
[تصویر]
مرورگر به سرعت در حال تبدیل شدن به میدان نبرد بعدی برای آزمایشگاه‌های هوش مصنوعی است که هدفشان استفاده از ادغام مرورگر برای ارائه ارتباطات یکپارچه‌تر بین سیستم‌های هوش مصنوعی و کاربرانشان است. Perplexity اخیراً مرورگر خود به نام Comet را راه‌اندازی کرده است که دارای یک عامل هوش مصنوعی است که می‌تواند وظایف را برای کاربران انجام دهد. گزارش شده است که OpenAI نیز در حال نزدیک شدن به عرضه یک مرورگر مجهز به هوش مصنوعی است که شایعه شده است ویژگی‌های مشابهی با Comet دارد. در همین حال، گوگل نیز در ماه‌های اخیر ادغام‌هایی از Gemini را با Chrome راه‌اندازی کرده است.
رقابت برای توسعه مرورگرهای مجهز به هوش مصنوعی به ویژه با توجه به پرونده ضد انحصار گوگل که انتظار می‌رود به زودی تصمیم نهایی در آن اعلام شود، تشدید شده است. قاضی فدرال در این پرونده پیشنهاد کرده است که ممکن است گوگل را مجبور به فروش مرورگر Chrome خود کند. Perplexity یک پیشنهاد غیرمنتظره ۳۴.۵ میلیارد دلاری برای خرید Chrome ارائه کرده است و Sam Altman، مدیرعامل OpenAI، پیشنهاد داده است که شرکتش نیز مایل به خرید آن خواهد بود.
Anthropic در پست وبلاگی خود اعلام کرده است که ظهور عوامل هوش مصنوعی با دسترسی به مرورگر، خطرات ایمنی جدیدی را به وجود می‌آورد. هفته گذشته، تیم امنیتی Brave اعلام کرد که متوجه شده است عامل مرورگر Comet می‌تواند در برابر حملات تزریق دستوری غیرمستقیم آسیب‌پذیر باشد، به این معنی که کد پنهان در یک وب‌سایت می‌تواند عامل را فریب دهد تا دستورالعمل‌های مخرب را هنگام پردازش صفحه اجرا کند.
(مسئول ارتباطات Perplexity، Jesse Dwyer، در ایمیلی به خبرنگار اعلام کرد که آسیب‌پذیری که Brave مطرح کرده بود، برطرف شده است.)
Anthropic می‌گوید امیدوار است از این پیش‌نمایش تحقیقاتی به عنوان فرصتی برای شناسایی و رفع خطرات ایمنی جدید استفاده کند. با این حال، این شرکت قبلاً چندین دفاع در برابر حملات تزریق دستوری ارائه کرده است. این شرکت می‌گوید اقداماتش میزان موفقیت حملات تزریق دستوری را از ۲۳.۶٪ به ۱۱.۲٪ کاهش داده است.
به عنوان مثال، Anthropic می‌گوید کاربران می‌توانند دسترسی عامل مرورگر Claude را به سایت‌های خاصی در تنظیمات برنامه محدود کنند و این شرکت به طور پیش‌فرض از دسترسی Claude به وب‌سایت‌هایی که خدمات مالی، محتوای بزرگسالان و محتوای غیرقانونی ارائه می‌دهند، جلوگیری کرده است. این شرکت همچنین می‌گوید که عامل مرورگر Claude قبل از “انجام اقدامات پرخطر مانند انتشار، خرید یا به اشتراک گذاشتن داده‌های شخصی” از کاربر اجازه خواهد گرفت.
این اولین ورود Anthropic به مدل‌های هوش مصنوعی که می‌توانند صفحه رایانه شما را کنترل کنند نیست. در اکتبر ۲۰۲۴، این شرکت یک عامل هوش مصنوعی راه‌اندازی کرد که می‌توانست رایانه شما را کنترل کند، اما آزمایش‌ها در آن زمان نشان داد که این مدل بسیار کند و غیرقابل اعتماد است.
قابلیت‌های مدل‌های هوش مصنوعی عامل‌دار از آن زمان تاکنون به طور چشمگیری بهبود یافته است. خبرنگار متوجه شده است که عوامل هوش مصنوعی مدرن که از مرورگر استفاده می‌کنند، مانند Comet و ChatGPT Agent، در انجام وظایف ساده برای کاربران نسبتاً قابل اعتماد هستند. با این حال، بسیاری از این سیستم‌های عامل‌دار هنوز با مشکلات پیچیده‌تر دست و پنجه نرم می‌کنند.
منبع: techcrunch.com
