در حالی که هوش مصنوعی به طور فزاینده‌ای به هکرها کمک می‌کند تا حملات ایمیلی گسترده‌ای را سازماندهی کنند، رهبران امنیتی سابق گوگل با هم متحد شده‌اند تا عوامل هوش مصنوعی مستقلی را توسعه دهند که هدفشان متوقف کردن فیشینگ، بدافزار و تهدیدات ایمیلی تجاری قبل از رسیدن به صندوق ورودی کاربران است.
این مأموریت اصلی AegisAI، یک استارتاپ جدید امنیت ایمیل است که به تازگی با ۱۳ میلیون دلار بودجه اولیه به رهبری مشترک Accel و Foundation Capital، فعالیت خود را آغاز کرده است.
بنا به گزارش CISA، سازمان فدرال امنیت سایبری ایالات متحده، بیش از ۹۰ درصد حملات سایبری موفق با یک ایمیل فیشینگ آغاز می‌شوند. مطالعه‌ای که اخیراً توسط CrowdStrike انجام شده (PDF) نیز نشان داد که پیام‌های فیشینگ تولید شده توسط مدل‌های زبانی بزرگ (LLM) در سال ۱۴۰۳، نرخ کلیک ۵۴ درصدی داشته‌اند، که بسیار بالاتر از نرخ ۱۲ درصدی ایمیل‌های نوشته شده توسط انسان است.
AegisAI قصد دارد با مجموعه عوامل هوش مصنوعی مستقل خود، با این تهدید رو به رشد مقابله کند.
این استارتاپ که توسط مدیران سابق Google Safe Browsing و reCAPTCHA، سای خرماعی و رایان لو، تأسیس شده است، یک شبکه هماهنگ از عوامل هوش مصنوعی بلادرنگ ارائه می‌دهد که تهدیدات ایمیلی را به طور خودکار و بدون تکیه بر هیچ مجموعه قوانین خاصی، بازرسی، تجزیه و تحلیل و خنثی می‌کنند. این رویکرد، پلتفرم‌های امنیتی ایمیل معمولی را که متکی به قوانین ثابت هستند و اغلب به آموزش گسترده کاربر نیاز دارند، به چالش می‌کشد.
خرماعی در مصاحبه اختصاصی با خبرنگار گفت: «منشاء همه شرارت‌ها یک فایل PDF پیوست شده به ایمیل است. همیشه همه حملات از آنجا شروع می‌شدند، و من واقعاً می‌خواستم این مشکل را حل کنم.»
خرماعی بیش از پنج سال، تا تیر ماه ۱۴۰۲، به عنوان رئیس محصول و مدیر مدیریت محصول در گوگل فعالیت کرد. در طول این مدت، او رهبری تیم امنیتی مسئول محافظت از گوگل، چهار میلیارد کاربر آن و چهار میلیون وب سایت در برابر فیشینگ، بدافزار و تقلب را با استفاده از محصولاتی مانند Safe Browsing، reCAPTCHA و Web Risk بر عهده داشت. در همین دوران بود که او برای اولین بار با لو آشنا شد که نزدیک به یک دهه در گوگل کار کرده بود و بخشی از تیم Safe Browsing بود.
خرماعی به خبرنگار گفت که گوگل تجربه دست اولی در ساخت فناوری‌های تشخیص فیشینگ، درک عمیقی از امنیت از منظر شرکت و چگونگی توسعه و مقیاس‌بندی سریع کسب‌وکارهای امنیتی به او داد.
خرماعی قبل از گوگل، پلتفرم هوش فروش Contastic را تأسیس کرد که در سال ۱۳۹۵ توسط SugarCRM خریداری شد. او بعداً به مدت بیش از یک سال و نیم، تا آذر ماه ۱۴۰۳، به عنوان معاون مدیریت محصول در Attentive خدمت کرد، قبل از اینکه AegisAI را راه اندازی کند.
AegisAI عوامل استدلالی را ساخته است که هر کدام یک LLM سفارشی هستند که برای یک تهدید خاص تنظیم شده‌اند. هنگامی که عامل هماهنگ کننده یک تهدید یا تهدید بالقوه را تشخیص می‌دهد، با سایر عوامل موجود در شبکه، که خرماعی از آنها به عنوان “رفیق” یاد می‌کند، تماس می‌گیرد. این عوامل سپس تجزیه و تحلیل را انجام می‌دهند، با یکدیگر استدلال می‌کنند و با یک رأی به عامل هماهنگ کننده پاسخ می‌دهند.
این عوامل تجزیه و تحلیل بلادرنگ هر جزء پیام، از جمله پیوندها، پیوست‌ها، فراداده‌ها، کدهای QR و الگوهای رفتاری را انجام می‌دهند.
خرماعی گفت: «آنچه ما از ساخت این ابزارها در گوگل می‌دانیم این است که همه چیزهایی که باید در مورد یک ایمیل تجزیه و تحلیل کنید چیست؟ همه منابع داده کدامند؟ همه تکنیک‌های شناسایی نفوذ و همه کارهای ناپسندی که دشمنان انجام می‌دهند و ما در طول ۱۰ سال بازی شطرنج با این دشمنان دیده‌ایم، چیست؟»
در حالی که AegisAI در حال حاضر بیش از ۱۰ عامل برای این کار ساخته است، خرماعی به خبرنگار گفت که ممکن است با گذشت زمان و باهوش‌تر شدن دشمنان و تلاش برای فریب سیستم، ۵۰ تا ۱۰۰ عامل وجود داشته باشد.
او گفت: «من کاملاً معتقدم که تا دو سال دیگر، دشمنان متوجه خواهند شد که ما چه کار میکنیم. آنها ابزارهای خود را بازسازی می‌کنند و به آنچه ما انجام می‌دهیم حمله می‌کنند، و سپس ما باید عوامل بیشتری بسازیم تا از آنها جلوتر بمانیم.»
خرماعی گفت برخلاف یک پلتفرم امنیتی ایمیل معمولی که از رویکرد مبتنی بر قانون استفاده می‌کند، این عوامل هوش مصنوعی دسته‌ای از حملات را شناسایی می‌کنند و خود را برای هر نوع احتمالی از آن حملات در زمان واقعی تنظیم می‌کنند. این استارتاپ چندین مدل هوش مصنوعی متناسب با تهدیدات مختلف و صنایع خاص، از جمله سرمایه گذاری خطرپذیر و خدمات مالی، توسعه داده است.
این استارتاپ ادعا می‌کند که عوامل AegisAI در کنار تشخیص سریع تهدیدات، به کاهش مثبت‌های کاذب تا ۹۰ درصد در مقایسه با راه حل‌های سنتی کمک می‌کنند.
به گفته خرماعی، نصب سیستم AegisAI بر روی یک حساب ایمیل Google Workspace یا Microsoft 365 از طریق API “بیش از پنج دقیقه” طول نمی‌کشد. پس از راه‌اندازی، استارتاپ گزارشی را در عرض چند روز با جزئیات مربوط به آنچه سیستم در محیط پیدا کرده است، از جمله مثبت‌های کاذب و منفی‌های کاذب، ارسال می‌کند. سپس به مدت یک هفته در حالت فقط خواندنی اجرا می‌شود و سپس قرنطینه را فعال می‌کند.
خرماعی گفت: «بدون این فناوری، حل این مشکل بسیار ناهمگن در ایمیل بسیار دشوار است.»
این استارتاپ که دفاتر آن در سان فرانسیسکو و نیویورک قرار دارد، در حال حاضر در حال اجرای یک طرح آزمایشی با مشتریانی در ایالات متحده و اروپا است و در حال حاضر سه مشتری پولی، از جمله نرم افزار انطباق با حریم خصوصی داده Lokker و پلتفرم پرداخت رمزنگاری Mesh Connect را اضافه کرده است. این استارتاپ در حال حاضر تیمی متشکل از شش عضو دارد.
خرماعی گفت که استارتاپ با سرمایه گذاری جدید، قصد دارد تخصص فنی خود را گسترش دهد و یک زیرساخت قوی برای ورود به بازار ایجاد کند.
منبع : techcrunch.com
