با پیشرفت فناوری هوش مصنوعی، مجرمان سایبری به ابزاری قوی برای حملات گسترده سایبری دست یافتهاند. این عاملها میتوانند زمانبندی جلسات، خرید آنلاین و حتی برنامهریزی را انجام دهند. اما همین توانمندیها میتواند در خدمت مهاجمان سایبری قرار بگیرد.
نقش عاملهای هوش مصنوعی در پیشبینی چشمانداز حملات سایبری
تاکنون، مجرمان سایبری از این عاملها منفعتگیری گستردهای نکردهاند، اما مطالعات نشان دادهاند که این عاملها میتوانند حملات را همانندسازی و اجرا کنند. به گفته کارشناسان، استفاده از این فناوریها در دنیای واقعی دیر یا سریع اتفاق میافتد.
«آنتونی کوک» از شرکت «Anthropic» میگوید: «فکر میکنیم نهایتاً در جهانی زندگی میکنیم که اکثر حملات سایبری را عاملهای هوش مصنوعی انجام خواهند داد.»
پیشنهاد مطالعه: امروز در فضا: نزدیکی هالی به زمین_دریای تکنولوژی
در جواب به این تهدید، سازمان «Palisade Research» سیستمی به نام «LLM Agent Honeypot» به وجود آورده است؛ سرورهایی صدمهپذیر که در نقش طعمهای برای شناسایی عاملهای هکر طراحی شدهاند. مقصد این پروژه شناسایی حملات در مرحلههای اولیه و تهیه راهکارهای دفاعی است.
این عاملها در قیاس با رباتهای ساده جاری زیاد گسترش یافتهاند. آنها میتوانند راههای نفوذ را هوشمندانه بازدید کنند و شناسایی نشوند. از اکتبر ۲۰۲۴ (مهر تا آبان ۱۴۰۳) و آغاز بهکار Honeypot، بیشتر از ۱۱ میلیون تلاش برای ورود به این سیستم ثبت شده که از این بین، ۸ مورد به گمان زیاد عاملهای هوش مصنوعی بودهاند و عامل ۲ مورد آنها بهطور قطعی هوش مصنوعی بوده است.
پیشنهاد مطالعه: ۱۲ توصیه برای تقویت روحیه کارکنان
کارشناسان هشدار خواهند داد که دعوا با ایجنتهای هوش مصنوعی میتواند به مرحلهای برسد که بدون دخالت انسان، از انتخاب مقصد تا اجرای دعوا را خودکار انجام بدهند. این قابلیت، مقیاسپذیری حملات را بهشدت افزایش میدهد.
در همین حال، پروژههای تحقیقاتی همانند آنچه دانشگاه ایلینوی انجام دادهاند، نشان خواهند داد که عاملهای هوش مصنوعی بدون دانش قبلی، میتوانند تا ۱۳ درصد صدمهپذیریها را با پیروزی کشف و منفعتبرداری کنند. این عدد با افزودن توضیحات مختصر، به ۲۵ درصد افزایش مییابد.