مدلهای بزرگ زبانی به تبحر در ارائه پاسخهای ساختگی شهرت دارند. موضوعی که از آن به عنوان توهم هوش مصنوعی یاد میشود و باعث شده تا بسیاری نتوانند واقعیت و دروغ این ابزارها را از یکدیگر تشخیص دهند، موضوعی که خطراتی را به دنبال دارد.
به گزارش پیوست، استارتآپی به نام Cleanlab که برآمد از آزمایشگاه رایانش کوانتومی دانشگاه MIT است، ابزاری برای کاربران حساس طراحی کرده تا با استفاده از آن اعتبار مدلها را بسنجند. این ابزار که Trustworthy Language Model نام دارد براساس اعتبار خروجی مدل بزرگ زبانی به آن امتیازی بین ۰ و ۱ میدهد. با این کار مردم میتوانند پاسخهای قابل اعتماد و غیرقابل اعتماد را از یکدیگر تشخیص دهند.
استارتآپ Cleanlab امیدوار است که با این ابزار از مدلهای بزرگ زبانی گزینه جذابتری برای کسبوکارهایی بسازد که نگران اعتبار و درستی پاسخها هستند. کرتیس نورتکات، مدیرعامل Cleanlab، میگوید: «به نظرم مردم میدانند که LLMها جهان را تغییر میدهند اما این توهمهای لعنتی است که جلودارشان شده است.»