به گزارش خبرآنلاین، استنادهای ذکرشده در انتهای یک مقاله پژوهشی باید نشاندهنده پایه محکمی از دانش موجود درباره یک محتوای خاص باشند و مجموعهای از منابع بررسیشده را نشان دهند که طی سالها پژوهش و مطالعه بررسی شدهاند. با وجود این، با افزایش استفاده از هوش مصنوعی و مدلهای زبانی بزرگ در نوشتن مقالههای پژوهشی، احتمال فزایندهای وجود دارد که استنادهای ذکرشده حتی وجود نداشته باشند و پژوهش، منبع یا حتی پژوهشگران آن کاملاً جعلی باشند.
به نقل از ایسنا، پژوهشگران در یک پژوهش جدید، میلیونها مقاله را بررسی کردند و دریافتند که حدود ۱۴۶,۹۰۰ استناد جعلی در مقالههای پژوهشی موجود در چهار مخزن علمی اصلی شامل arXiv، bioRxiv، SSRN و PubMed Central وجود دارد. این اعداد فقط مربوط به سال ۲۰۲۵ هستند.
این استنادهای جعلی به تعداد انگشتشماری از افراد فاسد محدود نبودند، بلکه در بسیاری از مقالهها ظاهر شدند که هر کدام حاوی تعداد کمی ارجاع جعلی بودند و به الگوی گستردهتری از پژوهشگرانی اشاره داشتند که از هوش مصنوعی کمک میگیرند، اما در بررسی درستی خروجی خود کوتاهی میکنند.
پژوهشهای علمی با تکیه بر اکتشافات پیشین پیشرفت میکنند و هر یافته جدید به آنچه پیشتر ثابت شده است، بستن دانشمندان از زمان ظهور هوش مصنوعی شاهد افزایش تقریباً سه برابری بهرهوری خود بودهاند. الگوی جالب دیگری نیز پدیدار شد که نشان میداد ارجاعات جعلی به طور نامتناسبی به دانشمندان برجسته و دانشمندان مرد اعتبار میبخشند. این نشان میدهد که خطاهای ایجادشده توسط مدلهای زبانی بزرگ ممکن است نابرابریهای موجود در شناخت علمی را تقویت کنند.
دادههای این بررسی، شکافهای موجود در حفاظهای اعمالشده مانند بررسی پیشچاپ و ویراستاران مجله را آشکار کردند که تنها میتوانستند بخش کوچکی از این خطاها را شناسایی کنند. به عنوان مثال، اگرچه بررسی arXiv توانست برخی از مشکلات را شناسایی کند، اما تخمین زده میشود که ۷۸.۸ درصد از استنادهای ناموجود همچنان از پلتفرم عبور میکنند و در آن ظاهر میشوند.
پژوهشگران هشدار میدهند که توهمات هوش مصنوعی به طور پیوسته در حال نفوذ به تولید دانش در مقیاس وسیع هستند و هم قابلیت اطمینان و هم عدالت آن را تهدید میکنند. بدون مداخله در این روند، تأثیر آن میتواند از آینده اکتشافات علمی به سیاستگذاری و درک عمومی سرایت کند.
۵۸۵۸