جمعه 28 شهریور 1404 – 18:20
شرکت Radware اعلام کرده است که حمله Shadow Leak برپایه روشی به نام Prompt Injection یا تزریق دستور پنهان صورت گرفته است. در این روش، مهاجمان دستورالعمل‌های مخربی را در متن‌ها یا ایمیل‌ها جاسازی می‌کنند که در نگاه کاربران بی‌خطر یا حتی نامرئی به نظر می‌رسد. برای مثال، می‌توان این دستورها را با رنگ سفید روی پس‌زمینه سفید قرار داد تا در چشم انسان‌ها پنهان بماند؛ اما عامل هوش مصنوعی آن‌ها را بخواند و اجرا کند.
پژوهشگران Radware توضیح دادند که رسیدن به این نقطه فرایندی ساده نبود و شامل تلاش‌های متعدد و شکست‌های پیاپی و آزمون و خطاهای فراوان شد؛ اما در نهایت موفق شدند مدلی از حمله را پیاده کنند که نشان دهد حتی پیشرفته‌ترین ابزارهای هوش مصنوعی هم دربرابر سوءاستفاده ایمن نیستند. تفاوت اصلی این حمله با بیشتر تزریق‌های دستوری متداول این بود که داده‌ها مستقیماً از زیرساخت ابری OpenAI استخراج شدند. به همین دلیل، این فعالیت‌ها از دید بسیاری از سامانه‌های دفاع سایبری پنهان ماند و کاربر قربانی نیز نشانه‌ای از وقوع حمله مشاهده نکرد.
برای مشاهده کامل مطب کلیک کنید