شنبه 15 شهریور 1404 – 13:10
تک‌ناک
بر اساس مقاله‌ای که روز پنجشنبه منتشر شد، یافته اصلی OpenAI این است که دلیل اصلی بروز توهم در این مدل‌ها به شیوه آموزش آنها بازمی‌گردد. روش‌های آموزشی فعلی به‌گونه‌ای طراحی شده‌اند که «حدس زدن» را بیش از «پذیرش ندانستن» پاداش می‌دهند. به بیان ساده، مدل‌ها یاد گرفته‌اند «تا رسیدن به حقیقت، وانمود کنند که می‌دانند».
به اعتقاد آنها، مدل‌های زبانی در واقع همیشه در حالت «آزمون دادن» قرار دارند؛ به‌گونه‌ای که همه‌چیز را سیاه یا سفید و درست یا غلط می‌بینند. این در حالی است که در دنیای واقعی، عدم قطعیت بسیار رایج‌تر از قطعیت است. برخلاف انسان‌ها که در زندگی واقعی ارزش ابراز تردید را می‌آموزند، مدل‌های زبانی تحت آزمون‌هایی قرار می‌گیرند که برای تردید و خودداری از پاسخ‌دهی جریمه در نظر می‌گیرند.
برای مشاهده کامل مطب کلیک کنید