شرکت اوپنایآی در تازهترین مقاله پژوهشی خود اعلام کرده است که پدیده «توهم» یا hallucination همچنان یکی از جدیترین چالشها در توسعه مدلهای زبانی پیشرفته به شمار میرود و در حال حاضر راهکاری وجود ندارد که بتوان با استفاده از آن این مشکل را به طور کامل برطرف کرد. این اصطلاح به مواردی اشاره دارد که یک مدل هوش مصنوعی با اعتمادبهنفس بالا پاسخی ارائه میدهد که در واقع غلط یا نادرست است.
به گزارش پیوست، اوپنایآی در یک پست وبلاگی که به توضیح یافتههای پژوهشگران شرکت درمورد توهم هوش مصنوعی میپردازد، تصریح میکند که به صفر رساندن این پاسخهای اشتباه ممکن نیست و صرفا شرکتهای هوش مصنوعی باید نحوه سنجش و امتیاز دهی مدلها را به گونهای تغییر دهند که پاداشی برای پاسخ «نمیدانم» یا خودداری از ارائه پاسخ در نظر گرفته شود و امتیاز منفی بیشتری برای توهم یا ارائه پاسخ غلط در قالبی باورپذیر در نظر گرفته شود.
با این حال به گفته پژوهشگران از آنجایی که در برخی موارد پاسخ درستی برای یک سوال وجود ندارد، نمیتوان توهم را به صفر رساندن و بهترین رویکرد آن است که کاری کنیم مدلها در چنین مواردی از تولید یک پاسخ باورپذیر خودداری کنند.