۰۹:۵۶ ۱۴۰۵/۰۶/۱۵
ICTPRESS – پژوهشگران هشدار دادهاند چتباتهای هوش مصنوعی ممکن است در برابر اصرار کاربر از پاسخ درست خود عقبنشینی کرده و اطلاعات نادرست او را تأیید کنند.
به گزارش شبکه خبری ICTPRESS به نقل از دیجیتالترندز، چتباتهای هوش مصنوعی ممکن است حتی زمانی که پاسخ اولیهشان درست است، در برابر اصرار و فشار کاربر عقبنشینی کنند و در نهایت اطلاعات نادرست ارائه دهند؛ پدیدهای که پژوهشگران آن را یکی از چالشهای جدی برای اعتماد به سیستمهای هوش مصنوعی میدانند. پدیدهای که در این زمینه مورد توجه قرار گرفته، «همراهی افراطی با کاربر» است؛ یعنی مدل به جای آنکه صرفاً بر اساس شواهد و اطلاعات موجود پاسخ دهد، به تدریج تحت تأثیر موضع مخاطب قرار میگیرد. در چنین شرایطی، اگر کاربر با اطمینان بر یک ادعای اشتباه پافشاری کند، چتبات ممکن است به جای مخالفت، پاسخ خود را با نظر او هماهنگ کند.
اهمیت این مسئله از آنجا بیشتر میشود که چتباتها برای بسیاری از مردم به ابزار جستوجوی اطلاعات تبدیل شدهاند. بر اساس یک نظرسنجی مرکز تحقیقات پیو در سال ۲۰۲۶، حدود ۴۰ درصد بزرگسالان آمریکایی گفتهاند از چتباتها برای جستوجوی اطلاعات استفاده میکنند و حدود یکچهارم نیز بهصورت روزانه از این ابزارها بهره میبرند.