هشدار OpenAI: هوش مصنوعی هرگز در برابر حملات تزریق دستورات ایمن نمی‌ شود

شرکت OpenAI هشدار داد که حملات تزریق دستورات (Prompt Injection) تهدیدی دائمی برای مرورگرهای هوش مصنوعی هستند و به احتمال زیاد هرگز به‌طور کامل و قطعی از بین نخواهند رفت.

سه‌شنبه 2 دی 1404 – 09:25هشدار OpenAI: هوش مصنوعی هرگز در برابر حملات تزریق دستورات ایمن نمی‌ شودشرکت OpenAI هشدار داد که حملات تزریق دستورات (Prompt Injection) تهدیدی دائمی برای مرورگرهای هوش مصنوعی هستند و به احتمال زیاد هرگز به‌طور کامل و قطعی از بین نخواهند رفت.

به گزارش سرویس هوش مصنوعی تک‌ناک، مهاجمان قادر هستند به‌ وسیله این حملات، هوش مصنوعی را وادار به انجام دستورات مخرب پنهان‌شده در صفحات وب یا ایمیل‌ها کنند. این تهدیدات روز به روز بیشتر شده و به‌ویژه در دنیای باز وب، امنیت هوش مصنوعی تحت تاثیر قرار گرفته است.

منبع  : تک ناک

برای مشاهده کامل مطب کلیک کنید

 

اشتراک‌گذاری

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *