محققان میگویند در سیستم ارزیابی فعلی مدلهای هوش مصنوعی، حدسزدن یک پاسخ حتی اگر اشتباه باشد بهتر از اعتراف به ندانستن آن است.
به گزارش گروه دانشگاه خبرگزاری دانشجو، محققان OpenAI در یک مقاله تحقیقاتی جدید به یکی از بزرگترین مسائل هوش مصنوعی پرداختند؛ به گفته آنها، مدلهای هوش مصنوعی توهم میزنند، چون روشهای استاندارد آموزش و ارزیابی، آنها را به جای اعتراف به عدم قطعیت پاسخها، به حدسزدن ترغیب میکند.
در ابتدا باید بدانیم توهم چیست؛ توهم (Hallucination) زمانی رخ میدهد که مدل زبانی با اطمینان اطلاعات نادرست را بهعنوان واقعیت بیان میکند. این مشکل حتی در پیشرفتهترین مدلها مثل GPT-۵ یا Claude هم دیده میشود. اکنون محققان OpenAI در پژوهشی علت این موضوع را تشریح کردهاند.