۳۰ مرداد ۱۴۰۵ – ۱۹:۱۵
به گزارش خبرگزاری خبرآنلاین و براساس گزارش دیجیاتو، پژوهشگران امنیتی توانسته بودند آسیبپذیری امنیتی خطرناکی در چتبات کوپایلوت مایکروسافت پیدا کنند که اطلاعات لازم برای هک این سرویس را توسط خود چتبات افشا میکرد. این مشکل اکنون برطرف شده است.
شرکتهای فعال در حوزه هوش مصنوعی مانند OpenAI، انتروپیک و گوگل معمولاً سازوکارهای حفاظتی و ایمنی را در مدلهای خود تعبیه میکنند تا کاربران نتوانند برخی درخواستهای خطرناک یا غیرمجاز را از آنها داشته باشند. برای مثال، نوشتن کد برای بدافزار یا جاسوسافزار و نمایش روش تهیه برخی مواد مخدر، معمولاً توسط چتباتها امکانپذیر نیست. البته این سازوکارها چندان نفوذناپذیر نیستند و بیشتر در برابر کاربران عادی پوشش حفاظتی ایجاد میکنند؛ در نتیجه پژوهشگران و متخصصان حوزه امنیت میتوانند گاهی معیارهای ایمنی را دور بزنند و روشهای جدیدی برای ثبت درخواستهای غیرمجاز از چتباتها پیدا کنند.