کارشناسان درمورد ضرورت حیاتی تدابیر ایمنی قویتر پیش از بهکارگیری چتباتهای هوش مصنوعی در حوزه مراقبت سلامت هشدار دادهاند و افزودهاند که این مدلها نهتنها ادعاهای نادرست را تکرار میکنند، که با اطمینان آنها را بسط میدهند و درمورد بیماریهایی که اصلا وجود خارجی ندارند توضیحاتی ارائه میکنند.
به گزارش سیتنا به نقل از اینیپندنت، براساس پژوهشهای جدید، چتباتهای هوش مصنوعی اغلب مستعد تکرار اطلاعات نادرست و گمراهکننده پزشکیاند.