پس از عرضه قابلیت AI Overviews از گوگل بسیاری از کاربران نمونههایی از پاسخ اشتباه این قابلیت به سوالات ساده را منتشر کردند که به ضعف واضح هوش مصنوعی در این حوزه اشاره میکرد. دلیل اصلی این مساله نحوه کار مدلی است که وظیفه دارد اطلاعات را از لیست وبسایتهای گوگل و همچنین دادههای آموزشی خود استخراج و براساس آن پاسخی تولید کند. به گفته پژوهشگران هرچه سوال شما جزئیتر باشد، احتمال اشتباه مدل بالاتر میرود زیرا مدل قدرت تشخیص چندانی ندارد و کلمات را براساس احتمالات کنار هم میچیند. گزارشی از MIT میگوید که این مشکل تا زمانی که LLMها بر پایه احتمالات کار میکنند هیچگاه به طور کامل برطرف نمیشود.
به گزارش پیوست، سخنگوی گوگل اعلام کرده است که دلیل پاسخ اشتباه در بسیاری از موارد به نبود اطلاعات کافی در اینترنت بازمیگردد. غول جستجو در حال تلاش برای رفع این مشکل است.
هدف از عرضه جستجو با هوش مصنوعی این بود که «گوگل به جای شما گوگل کند.» این قابلیت جدید که AI Overviews نام دارد یک چکیده کوتاه با اطلاعات کلیدی و لینکهایی به منابع ارائه میکند.