چت‌بات‌ها با القای کاربر اطلاعات جعلی را می‌پذیرند

ICTPRESS – پژوهشی تازه نشان می‌دهد چت‌بات‌های هوش مصنوعی را می‌توان با «هل‌دادن‌های کوچک» متقاعد کرد که موضوعات ساختگی را واقعی تصور کنند؛ حتی اگر پیش‌تر آن‌ها را رد کرده باشند.

به گزارش شبکه خبری ICTPRESS، کاربران معمولا تصور می‌کنند مدل‌های هوش مصنوعی، اگر اطلاعات اشتباهی ببینند، آن را اصلاح می‌کنند. اما پژوهشی تازه نشان داده ماجرا همیشه این‌طور نیست؛ گاهی کافی است با اعتماد به‌ نفس درباره یک اتفاق خیالی صحبت کنید تا چت‌بات‌ها همان دروغ را بپذیرند و حتی برایش جزئیات تازه بسازند.

این مطالعه که توسط گروهی از پژوهشگران حوزه تأثیرات اجتماعی هوش مصنوعی انجام شده، روی پنج مدل بزرگ زبانی متمرکز بوده است؛ همان سیستم‌هایی که پشت چت‌بات‌هایی مانند ChatGPT قرار دارند. پژوهشگران می‌خواستند بدانند آیا این مدل‌ها در برابر اطلاعات نادرست مقاومت می‌کنند یا می‌توان آن‌ها را به‌تدریج به سمت پذیرش یک روایت جعلی سوق داد.

به گزارش پاپ‌سای، جرقه این تح همیشه خواهد شد.

منبع: همشهری آنلاین