حملات مسموم سازی داده، به عنوان یکی از تهدیدات بزرگ امنیتی، امنیت سیستمهای هوش مصنوعی را بهشدت تحت تاثیر قرار داده است. دادههای مسمومشده شامل اطلاعاتی هستند که بهطور عمدی دستکاری یا تخریب شدهاند تا مدلهای هوش مصنوعی را به سمت تولید نتایج نادرست و خطرناک هدایت کنند.
به گزارش پیوست به نقل از نیسوس، حملات تخریب داده بهعنوان یکی از خطرناکترین تهدیدات امنیتی برای سیستمهای هوش مصنوعی شناخته شده است. این حملات به مهاجمان اجازه میدهد تا دادههای مخرب یا گمراهکننده را وارد مجموعه دادههای آموزشی کنند، که منجر به تولید نتایج اشتباه و آسیبپذیری در تصمیمگیریهای کلیدی میشود.
طبق گزارش جدید شرکت نیسوس، حتی درصد کمی از دادههای آلوده (مانند ۰.۰۰۱ درصد از دادههای آموزشی) میتواند عملکرد هوش مصنوعی را مختل کند. این حملات میتوانند تصمیمگیریهای کلیدی را در بخشهایی مانند سلامت و امنیت ملی تحت تاثیر قرار دهند.