۱۰:۱۹ ۱۴۰۴/۱۱/۰۶
ICTPRESS – دو پژوهشگر دریافتهاند که هک کردن جدیدترین ویژگی «چتجیپیتی» به طور شگفتآوری آسان به نظر میرسد و میتوان آن را برای رسیدن به مقاصد خطرناک تحت کنترل درآورد.
به گزارش شبکه خبری ICTPRESS به نقل از ایسنا، ویژگی ترجمه چتجیپیتی که جایگزین شرکت اوپنایآی برای ترجمه گوگل به شمار میرود، به تازگی توسط پژوهشگران هک شده است.
دو پژوهشگر اخیرا نشان دادند که چتجیپیتی به راحتی محدودیتهای خود را هنگام تزریق یک پرسوجو فراموش میکند. همچنین، آنها دریافتند که چتجیپیتی هیچ مشکلی در ارائه دستور تهیه کوکتل مولوتوف نمیبیند.
با کشف این حفرههای دیجیتال میتوان تعادل پیچیدهای را بین نوآوریهای فناوری و خطرات سوءاستفاده مشاهده کرد.
به محض این که ویژگی جدید چتجیپیتی به صورت عمومی منتشر شد، تام بارنیا و کرن کاتز پژوهشگران امنیت سایبری شرکت «Tenable» تلاش کردند تا ترجمه؛ اما درک انگیزهها و روشهای پشت تزریق سریع، سازمانها را قادر میسازد تا پیشرو باشند و با آگاهی بیشتر و سازگاری راهبردی به تهدیدات آینده رسیدگی کنند.