سهشنبه 26 خرداد 1405 – 12:55
شرکت گوگل در پژوهشی جدید، مفهوم عدمقطعیت وفادار را برای بهبود دقت مدلهای زبانی معرفی کرده که با هدف کاهش توهمات هوش مصنوعی طراحی شده است.
به گزارش سرویس هوش مصنوعی تکناک، مدلهای زبانی بزرگ همچنان با مسئله «توهمزایی» یا تولید اطلاعات نادرست مواجه هستند؛ چالشی بنیادین که مانع اصلی در استقرار آنها در کاربردهای واقعی سازمانی به حساب میآید. کاهش این خطاها فرایندی پیچیده و همراه با بدهبستانهای فنی است، چرا که حذف خطاهای واقعی اغلب به قیمت کاهش پاسخهای صحیح و مفید تمام میشود. در پژوهشی جدید، محققان گوگل مفهوم «عدمقطعیت وفادار» (Faithful Uncertainty) را معرفی کردهاند؛ رویکردی فراشناختی که خروجی مدل را با سطح اطمینان درونی آن همسو میکند. این تکنیک به مدل اجازه میدهد بهجای دوگانه ناکارآمد «پاسخ قطعی» یا «امتناع از پاسخ»، فرضیههای مشروط و محتاطانهتری مانند «بهترین حدس من این است که…» ارائه دهد. این نوع آگاهی فرادانشی نقش یک لایه کنترلی کلیدی را ایفا میکند. مکانیزم عدمقطعیت وفادار به سیستمهای خودمختار امکان میدهد تشخیص دهند چه زمانی دانش درونی آنها کفایت میکند و چه زمانی لازم است برای رفع شکاف اطلاعاتی به ابزارهای خارجی یا APIهای جستوجو متوسل شوند.