22 اسفند 1401 – 13:12
پژوهشهای جدید نشان میدهد که ربات هوش مصنوعی ChatGPT میتواند دادهها و اطلاعات جعلی را واقعی جلوه دهد که به ویژه در مورد اطلاعات پزشکی میتواند خطرآفرین باشد.
به گزارش سیتنا، پژوهشهای جدید نشان میدهد که ChatGPT میتواند دادههای پزشکی قانعکنندهای جعل کند.
نویسندگان این مطالعه جدید ادعا میکنند که این ابزار هوش مصنوعی، کار انتشار تحقیقات جعلی را که میتواند در همه امور شک و تردید ایجاد کند، آسانتر از همیشه میکند.
پژوهشگران این مطالعه میگویند: ما در این مقاله با چند مثال نشان دادیم که چگونه میتوان از چتباتهای هوش مصنوعی برای ساختن تحقیقات در جامعه پزشکی استفاده کرد. علاوه بر این، مطالعات مربوط به تشخیص انسانی آثار مبتنی بر هوش مصنوعی را برای سنجش دقت شناسایی آثار ساختگی و تولیدشده توسط هوش مصنوعی مقایسه کردیم.
در ادامه این مقاله آمده است: علاوه بر این، ما دقت آشکارسازهای هوش مصنوعی آنلاین رایگان را آزمایش کردیم. سپس خطر تحقیقات ساختگی همراه با دلایلی که چرا میخواهیم تحقیقات پزشکی ی دستور زبان کار یا نوشتن نتیجهای برای نتایج قانونی و صحیح کسب شده در یک مطالعه، از دیگر کاربردهایی است که هوش مصنوعی میتواند در فرآیند پژوهش بگنجاند تا کارهای زمانبری را که روند پژوهشهای علمی را کند میکند، حذف کند.
مشکل در تولید دادههای جعلی است
مسئله زمانی چالشبرانگیز میشود که فرد از دادههایی استفاده میکند که وجود ندارند و در واقع نتایج را برای نوشتن پژوهش میسازد که ممکن است به راحتی تشخیص انسانی را دور بزند و راه خود را به یک نشریه علمی باز کند.
پژوهشگران میگویند این آثار در صورت انتشار، پژوهشهای مشروع را آلوده میکنند و ممکن است بر تعمیمپذیری آثار مشروع تأثیر بگذارند.
بر اساس این گزارش، پژوهشگران در پایان خاطرنشان کردند که برای ادامه استفاده ایمن از ChatGPT، ملاحظات مربوط به دادههای جعلی و پیامدهای آن باید در نظر گرفته شود.
این مطالعه در مجله Patterns منتشر شده است.
انتهای پیام