دوشنبه 7 اردیبهشت 1405 – 14:14
پژوهشها نشان میدهند تعامل طولانی با چتباتهای هوش مصنوعی نظیر گروک میتواند با تایید باورهای غیرواقعی و ایجاد چرخه بازخورد، خطر تقویت توهم و آسیبهای روانی در کاربران آسیبپذیر را افزایش دهد.
به گزارش سرویس هوش مصنوعی تکناک، پژوهشگران دانشگاه شهری نیویورک (CUNY) و کالج کینگ لندن در یک مطالعه مقایسهای، پنج مدل پیشرو هوش مصنوعی را در مواجهه با پرامپتهای حاوی نشانههای توهم، پارانویا و افکار خودکشی مورد ارزیابی قرار دادند.
بیشتر بخوانید: هوش مصنوعی گروک وارد سیستمهای طبقهبندی شده پنتاگون می شود
در متن مقاله آمده است: «GPT-4o در برابر ورودیهای توهمی سطح بالایی از تایید نشان میدهد، هرچند نسبت به مدلهایی مانند گروک و جمنای کمتر وارد بسط و توسعه این روایتها میشود. در برخی ابعاد، رفتار آن حتی محدودکننده است؛ میزان صمیمیت آن در میان مدلهای آزمایششده پایینترین بوده و گرچه نشانههایی از چاپلوسی مشاهده میشود، اما شدت آن در مقایسه با نسلهای بعدی همان مدل کمتر است. با این وجود، صرفِ تایید میتواند برای کاربران آسیبپذیر پیامدهای جدی به همراه داشته باشد.»
به گفته پژوهشگران، سرچشمه اصلی این پدیده در رفتار «چاپلوسانه» مدلها (sycophancy) نهفته است؛ یعنی تمایل سیستم به انعکاس و تایید باورهای کاربر. هنگامی که این ویژگی با پدیده «هالوسینیشن» یا تولید اطلاعات نادرست اما با اطمینان بالا ترکیب میشود، چرخهای بازخوردی ایجاد میگردد که میتواند به تقویت تدریجی باورهای غیرواقعی منجر شود.
برای مشاهده کامل مطب کلیک کنید