فناوری هوش مصنوعی مولد در حال نفوذ به صنایع مختلف و حتی بخشهایی از زندگی روزمره ما است. بدون شک هر فناوری جدیدی با تهدیدها و خطرات تازهای همراه میشود و پیش از این شاهد پدیدههایی مثل جیلبریک، زیر پا گذاشتن محدودیتهای امنیتی، در این سیستمها بودهایم. اما تحقیقات تازهای که مجله وایرد گزارش آن را منتشر کرده است نشان میدهد چطور کرمهای دیجیتالی به راحتی و با پرامپتهای آلوده وارد این سیستمها میشوند. در این آزمایش یک سیستم ایمیلی در محیط کنترل شده آلوده میشود و پرامپت آلوده را به دیگر مخاطبان نیز ارسال میکند.
به گزارش پیوست، محققان میگویند این کرمهای هوش مصنوعی که هنوز در فضای عمومی شناسایی نشدهاند تا سه سال آینده وارد عرصه عمومی میشوند و حتی قادرند اطلاعات حساسی را از سیستمها استخراج کنند.
با پیشرفت هرچه بیشتر سیستمهایی مثل ChatGPT و جمنای از گوگل، کاربرد آنها نیز بیشتر و بیشتر میشود. استارتآپ و شرکتهای فناوری در حال ساخت عوامل و اکوسیستم هایی مبتنی بر همین سیستمهای هوش مصنوعی هستند تا کارهای خستهکننده شما را برعهده بگیرند: برای مثال رخدادهای تقویم را به صورت خودکار ثبت کنند و شاید محصولی برایتان بخرند. اما هرچه این ابزارها آزادی بیشتری می گیرند، پتانسیل حمله به آنها نیز بیشتر میشود.