به گزارش خبرگزاری خبرآنلاین و براساس گزارش هوشیو، در دنیای هوش مصنوعی، مرز بین «بهبود سلامت» و «فریب علمی» به مویی بند شده است. در حالی که طبق آخرین آمارها در سال ۲۰۲۶، میلیونها نفر در سراسر جهان به جای مراجعه به پزشک، تشخیص بیماری خود را به دست چتباتها سپردهاند، جامعه علمی اکنون ترمز این قطار پرسرعت را کشیده است.
ژورنال معتبر Nature Medicine در تازهترین شماره خود، با لحنی بیسابقه به نقد نفوذ زودهنگام هوش مصنوعی در سیستمهای درمانی پرداخته است. در بخشی از این سرمقاله آمده است:«شواهد مبنی بر اینکه ابزارهای هوش مصنوعی ارزش افزودهای برای بیماران، پزشکان یا سیستمهای بهداشتی ایجاد میکنند، همچنان نایاب است.»
این نشریه استدلال میکند که بازار امروز پر شده از محصولات و مقالاتی که ادعای «تأثیر بالینی مثبت» دارند، اما هیچ توافق جمعی بر سر اینکه چه سطح از شواهدی برای اثبات این ادعاها لازم است، وجود ندارد. نتیجه این آشفتگی، پیادهسازی زودهنگام و خطرناک ابزارهایی است که هنوز در دنیای واقعی امتحان خود را پس ندادهاند.
گزارشهای میدانی نشان میدهد که مدلهای بزرگ زبانی (LLM) علیرغ نه تنها وجود این بیماری را تأیید کرد، بلکه مقالات دیگری نیز با استناد به آن دادههای غلط، به چاپ رسیدند.
دکتر «جیمی رابرتسون»، استادیار جراحی در دانشکده پزشکی هاروارد، معتقد است اگرچه هوش مصنوعی میتواند کارهای خستهکننده مثل کدنویسی برای تحلیل دادهها را سرعت ببخشد، اما اتکای بیش از حد به آن، «صلابت علمی» را قربانی میکند. او هشدار میدهد که دادههای بیشازحد تعمیمیافته و توهمات آماری هوش مصنوعی، در حال آلوده کردن بدنه دانش پزشکی هستند.
سرمقاله نیچر تأکید میکند که مرحله بعدی پیشرفت هوش مصنوعی، نه در گرو مدلهای قدرتمندتر، بلکه در گرو ایجاد یک چارچوب ارزیابی دقیق است. تا زمانی که معیارهای مشخصی برای تعریف «تأثیر بالینی» وجود نداشته باشد، استفاده از این ابزارها چیزی فراتر از یک ریسک بزرگ بر روی جان انسانها نخواهد بود.
۲۲۷۲۲۷