به گزارش گروه دانشگاه خبرگزاری دانشجو، به نقل از دیجیاتو، در یک مقاله تحقیقاتی که توسط خود گوگل برای نمایش قابلیتهای مدل هوش مصنوعی Med-Gemini منتشر شده بود، این مدل در تحلیل سیتی اسکن سر، یک ناهنجاری را در «گانگلیون بازیلر» (Basilar Ganglia) تشخیص داد؛ بخشی از مغز که اصلاً وجود خارجی ندارد. این هوش مصنوعی، دو ساختار کاملاً مجزا و متفاوت در مغز، یعنی «گانگلیونهای پایه» (Basal Ganglia) و «شریان بازیلر» (Basilar Artery) را با هم ترکیب و یک نام جدید اختراع کرده بود.
محققان و پزشکان این خطا را «فوقالعاده خطرناک» توصیف میکنند. آنها میگویند: «این دو کلمه مختلف، یک دنیا تفاوت ایجاد میکنند.» تشخیص اشتباه میان این دو ناحیه میتواند به پروتکلهای درمانی کاملاً متفاوت و بالقوه مرگبار برای بیمار منجر شود.
به گزارش ورج، پس از آنکه دکتر «برایان مور» (Bryan Moore)، عصبشناس، این اشتباه فاحش را به گوگل گزارش داد، این شرکت در ابتدا تلاش کرد تا با ویرایش پنهانی پست وبلاگ خود و تغییر «Basilar» به «Bاسخدهی.
دکتر «جودی گیچویا» (Judy Gichoya) از دانشگاه اموری، در آزمایشی یک عکس رادیولوژی از قفسه سینه را به مدل جدیدتر گوگل، MedGemma، نشان داد. وقتی دکتر سؤالش را با جزئیات کامل (شامل ارائه سن و جنسیت بیمار) پرسید، هوش مصنوعی مشکل را به درستی تشخیص داد. اما وقتی همان عکس را با یک سؤال سادهتر (صرفاً «در این عکس چه میبینی؟») به هوش مصنوعی نشان داد، پاسخ کاملاً متفاوت بود: «این عکس یک قفسه سینه نرمال از یک فرد بزرگسال را نشان میدهد.» و مشکل بهطور کامل نادیده گرفته شد.
این قضیه نشان میدهد که کوچکترین تغییری در نحوه تعامل با هوش مصنوعی میتواند منجر به نتایج کاملاً متضاد و خطرناک شود.