تهدید نوین حملات سایبری با قدرت هوش مصنوعی چالشهای امنیتی آینده, پیشرفتهای شگفتانگیز در حوزه هوش مصنوعی، ابوابی نوین را پیش روی مجرمان سایبری گشوده است. اکنون عاملهای هوشمند (AI ) قابلیت انجام کارهای پیچیده نظیر مدیریت تقویم، خرید آنلاین و برنامهریزی استراتژیک را دارا هستند؛ اما همین قابلیتها میتواند به ابزار قدرتمندی در دست مهاجمان تبدیل شود.
نقش عاملهای هوشمند در تغییر معادله امنیت سایبری اگرچه تا کنون سوءاستفاده گستردهای از این تکنولوژیها گزارش نشده، اما محققان امنیتی هشدار میدهند که عاملهای هوش مصنوعی میتوانند مراحل مختلف یک حمله سایبری را شبیهسازی و اجرا کنند.
مکانیزمهای دفاعی پروژه LLM در پاسخ به این تهدید رو به رشد، موسسه تحقیقاتی سیستمی به نام LLM راهاندازی کرده است. این پلتفرم شامل سرورهای عمداً آسیبپذیر است که به عنوان طعمه برای شناسایی و تحلیل رفتار عاملهای هکر مبتنی بر هوش مصنوعی طراحی شدهاند. هدف اصلی، کشف حملات در مراحل اولیه و توسعه راهکارهای مقابلهای موثر است.
تفاوت بنیادین با رباتهای سنتی برخلاف رباتهای معمولی که الگوهای ثابت و قابل پیشبینی دارند، عاملهای هوش مصنوعی قادرند به صورت پویا و هوشمندانه مسیرهای نفوذ را کاوش کنند و از مکانیزمهای تشخیص مخفی بمانند.
اند.
خطر خودکامگی کامل در چرخه حمله متخصصان امنیت سایبری هشدار میدهند که مقابله با ایجنتهای هوش مصنوعی میتواند به مرحلهای برسد که در آن، کل چرخه حمله — از انتخاب هدف تا اجرا و بهرهبرداری — بدون هیچگونه دخالت انسانی و به صورت کاملاً خودکار انجام گیرد. این ویژگی، مقیاسپذیری و سرعت حملات را به شدت افزایش میدهد.
شواهد تجربی کشف خودکار آسیبپذیریها پژوهشهای انجام شده در دانشگاه ایلینوی نشان میدهد که عاملهای هوش مصنوعی حتی بدون دانش پیشین، میتوانند تا ۱۳ درصد از آسیبپذیریها را با موفقیت کشف و سوءاستفاده کنند. با ارائه توضیحات مختصر تکنیکی، نرخ موفقیت این عاملها به ۲۵ درصد افزایش مییابد که نشاندهنده پتانسیل خطرناک این تکنولوژی در دستهای نادرست است.