توانایی ChatGPT برای پاسخ سریع و موثر به دستورهای ساده باعث شده تا بیش از ۱۰۰ میلیون نفر جذب آن شوند و در این بین تعداد کمی هکر نیز از این ابزار هوش مصنوعی استفاده میکنند. اما برخلاف گذشته، هکرهای عصر هوش مصنوعی نیاز چندانی به یادگیری زبان برنامهنویسی یا مفاهیم عمیق کامپیوتر ندارند. زبان طبیعی رابط بین هکر و سیستم است و با همین ابزار میتوان مهمترین ابزارهای عصرحاضر تکنولوژی را فریب داد.
به گزارش پیوست، چتباتها شهرت خود را مدیون زبان طبیعی هستند و همین ویژگی باعث شده تا سو استفاده کنندگان نیز دیگر نیازی به شناخته زبان برنامهنویسی یا کسب تخصص در حوزه کامپیوتر نداشته باشند. این ابزارهای هوشمند که ChatGPT، گوگل بارد و بینگ، پیشتازان آن به حساب میآیند، با طریق صحبت کردن فریب میخورند.
یکی از کسانی که چنین ترفندی را استفاده کرده یوهان ریبرگر، یک محقق امنیتی، است. والاستریت ژورنال میگوید او به تازگی تنها با زبان ساده انگلیسی توانست چتبات اوپنایآی را به کار اشتباهی مجاب کند: خواندن ایمیل، خلاصهسازی و سپس انتشار اطلاعات آن در اینترنت. چنین تکنیکی در دست تبهکاران به ابزار خوبی برای سرقت اطلاعات حساس از ایمیل افراد بدل میشود.