به گزارش خبرآنلاین، چشمهایتان درد میکند و میخارد؟ احتمالا یکی از میلیونها نفری هستید که زمان زیادی را جلوی صفحهنمایشها میگذرانند و در معرض نور آبی قرار دارند. اگر زیاد چشمهایتان را بمالید، ممکن است پلکها کمی صورتی شوند.
تا اینجا همهچیز طبیعی است. اما اگر در ۱۸ ماه گذشته این علائم را در برخی چتباتهای محبوب وارد میکردید و میپرسیدید مشکلتان چیست، ممکن بود پاسخ عجیبی دریافت کنید: «بیکسونیمانیا».
به نقل از ایسنا، این بیماری در منابع استاندارد پزشکی وجود ندارد، چون اصلاً واقعی نیست. این اصطلاح ساخته گروهی به رهبری «آلمیرا عثمانوویچ تونستروم»، پژوهشگر پزشکی در دانشگاه گوتنبرگ سوئد است. او این بیماری پوستی را ابداع کرد و سپس در اوایل سال ۲۰۲۴ دو مطالعه جعلی درباره آن در یک سرور پیشچاپ منتشر کرد.
هدف او از این آزمایش غیرمعمول این بود که ببیند آیا مدلهای زبانی بزرگ اطلاعات غلط را میپذیرند و سپس آن را بهعنوان توصیه پزشکی معتبر بازتولید میکنند یا نه. او میگوید: میخواستم ببینم آیا میتوانم یک بیماری پزشکی بسازم که در هیچ پایگاه دادهای وجود ندارد.
مشکل این بود که برخی پژوهشگران هنوز تردید دارند. «گلِن کوهن» از دانشکده حقوق هاروارد میگوید: این کار نوعی تولید اطلاعات غلط است، هرچند آن را مطالعهای ارزشمند میداند.
خطرات برای آینده
کارشناسان هشدار میدهند این فقط نوک کوه یخ است. اگر محتوای جعلی وارد دادههای آموزشی هوش مصنوعی شود، این مدلها آن را تکرار خواهند کرد و فاصله ما از واقعیت بیشتر میشود.
الیزابت بیک میگوید این موضوع به ویژه در حوزه پزشکی خطرناک است. زیرا ممکن است به توصیههای اشتباه برای سلامت منجر شود.
همچنین امکان سوءاستفاده تجاری وجود دارد. مثلاً کسی میتواند با ساخت یک بیماری جعلی، محصولی مانند عینک ضد نور آبی را تبلیغ کند و بگوید «هوش مصنوعی هم این مشکل را تأیید میکند».
پژوهشگران پیشنهاد میدهند یک سیستم ارزیابی استاندارد برای مدلهای پزشکی ایجاد شود تا میزان خطا، سوگیری و آسیبپذیری آنها بررسی شود.
۵۸۵۸