به گزارش گروه دانشگاه خبرگزاری دانشجو، هوش مصنوعی با مدلهای زبانی پیشرفتهای که به کار میگیرد، قادر است متونی شبیه به نوشتههای انسان تولید کند. این مدلهای زبانی که به «مدلهای زبانی بزرگ» یا LLMها معروف هستند، در برنامههای مختلفی از جمله چتباتها، نوشتن خودکار و تولید محتوا به کار میروند.
با وجود مزایای این فناوریها، شناسایی متون تولیدشده توسط ماشین و نسبت دادن آنها به منابع معتبر همواره یک چالش بوده است. این امر باعث شده تا نگرانیهایی درباره دقت و اعتبار این متون در میان کارشناسان و کاربران مطرح شود.
از آنجا که تفاوت ظاهری میان متون انسانی و مصنوعی کمتر شده است، نیاز به روشهایی برای تشخیص این دو بیشتر از قبل احساس میشود. روشهای مختلفی برای حل این مشکل پیشنهاد شده است، اما اغلب این روشها به دلیل تأثیر منفی بر کیفیت متن یا نیاز به توان مگذاریشده نشان داده است که در حالت غیرتغییری (non-distortionary)، کیفیت متن حفظ میشود و تغییری در آن احساس نمیشود. از دیگر نتایج این پژوهش میتوان به این نکته اشاره کرد که این واترمارکها تأثیر چندانی بر میزان توان محاسباتی مورد نیاز برای اجرای مدلها ندارند.
علاوه بر این، پژوهشگران تاکید دارند که اگرچه این واترمارکها ممکن است با تغییرات جزئی در متن از بین بروند، اما این ابزار میتواند به عنوان گامی مهم در جهت افزایش شفافیت و مسئولیتپذیری در استفاده از مدلهای زبانی هوش مصنوعی مورد استفاده قرار گیرد. این امر به ویژه در مواردی که متنهای تولیدشده باید از اعتبار بالایی برخوردار باشند، اهمیت دارد.
در انتها بایستی اشاره کرد که این پژوهش، قدمی مهم در جهت افزایش امنیت و شفافیت استفاده از هوش مصنوعی در فرایندهای تولید محتوا محسوب میشود.