هذیان و توهم در چت باتها به زمانی اشاره دارد که این سیستمها اطلاعات نادرست یا ساختگی تولید میکنند و آن را به عنوان واقعیت ارائه میدهند.
مهسا زحمتکش
چهارشنبه ۲۴ اردیبهشت ۱۴۰۴ – ۱۲:۳۹
ذیان در چت باتها به زمانی اشاره دارد که مدلهای هوش مصنوعی، به جای ارائه اطلاعات دقیق، پاسخهایی تولید میکنند که ممکن است نادرست یا کاملاً ساختگی باشند، اما به صورت واقعیت ارائه شوند. این پدیده، که گاهی به آن “confabulation” نیز گفته میشود، از نظر روانشناسی با توهمات انسانی مقایسه میشود، اما در AI به جای تجربههای حسی، به پاسخهای ساختگی مربوط است. اهمیت این موضوع از آنجا ناشی میشود که چت باتها در زمینههای حساس مانند پزشکی، حقوقی و تحلیل دادههای تجاری استفاده میشوند، و اطلاعات نادرست میتواند پیامدهای جدی داشته باشد.