شرکت انویدیا روز سه شنبه از یک عرضه یک نرمافزار جدید برای جلوگیری از اشتباه مدلهای هوش مصنوعی خبر داد. این محصول به تولید کنندگان نرمافزار کمک میکند تا جلوی بیان حقایق اشتباه، موضوعات خطرناک یا رخنههای امنیتی در هوش مصنوعی را بگیرند.
به گزارش پیوست، اشتباهات و توهم هوش مصنوعی یکی از مشکلات اصلی این صنعت محسوب میشود به طوری که تنها یک اشتباه چتبات بارد (Bard) از گوگل به ریزش ۱۰۰ میلیارد دلاری سهام این شرکت منجر شد. در اینجا منظور از توهم حالتی است که مدل هوش مصنوعی یک اشتباه را با حقیقتی مستند اشتباه گرفته و آن را در پاسخ به سوالی ارائه میکند.
علاوه بر این موضوع شایعهپراکنی، انتشار اطلاعات وارونه و دور زدن محدودیتهایی که برای جلوگیری از سو استفاده کاربران طراحی شده نیز موضوع مهمی برای شرکتهای بزرگ حال حاضر به حساب میآید.