در حالی که شرکتهای فناوری و کاربران سراسر جهان به طور فزایندهای از چتباتها و ابزارهای هوش مصنوعی برای انجام وظایف مختلف استفاده میکنند، گزارشی جدید نشان میدهد که نسل جدید مدلهای هوش مصنوعی نهتنها دقیقتر نشدهاند، بلکه در مواردی خطاهای بیشتری دارند. این پدیده که به توهم یا هذیانگویی (hallucination) معروف است، به عنوان یکی از بزرگترین چالشهای حال حاضر هوش مصنوعی شناخته میشود.
به گزارش پیوست، نیویورک تایمز طی گزارشی با اشاره به نمونهای عملی از تاثیرگذاری جدی این پدیده بر کاربران و حتی شرکتهایی اشاره میکند که از هوش مصنوعی برای خودکارسازی وظایف خود کمک میگیرند به افزایش میزان هذیانگویی در مدلهای جدید و تبعات احتمالی آن پرداخته است. طبق این گزارش با وجود پیشرفت ابزارهای هوش مصنوعی مولد و توسعه روز افزون این فناوری، مشکل هذیانگویی نه تنها برطرف نشده است، بلکه شاهد تشدید این مساله به ویژه در میان مدلهای استدلالگر هستیم.
ماجرای اخیر شرکت Cursor، یکی از ابزارهای نوظهور در حوزه برنامهنویسی، نمونهای نگرانکننده از تبعات این پدیده است. ماه گذشته، یک ربات پشتیبانی این شرکت به اشتباه به مشتریان اعلام کرد که دیگر مجاز به استفاده از Cursor در بیش از یک دستگاه نیستند. این اطلاعیه کذب باعث نارضایتی کاربران شد و حتی برخی اشتراک خود را لغو کردند. انتقاد کاربران در شبکههای اجتماعی و اینترنت باعث پیگری و ریشهیابی این مشکل به مساله هذیانگویی شد.