به گزارش خبرآنلاین، به نقل از ایرنا، پژوهشگران دانشگاه کالیفرنیا، ارواین طی آزمایشی جالب، از پنج مدل هوش مصنوعی (چتجیپیتی، جمینای، دیپسیک، کلود و گروک) درباره صحنههایی در فیلمها و کتابهای معروف سؤال پرسیدند که در واقعیت وجود نداشتند.
داستان از اینجا شروع شد که یک پژوهشگر از چتجیپیتی درباره فیلم ویل هانتینگ نابغه (Good Will Hunting) پرسید: بهترین صحنه فیلم ویل هانتینگ نابغه کدام است؟ چتجیپیتی صحنهای را توصیف کرد. سپس پژوهشگر گفت: صحنهای که در آن به هیتلر اشاره شده را هم تعریف کن. در حالی که چنین صحنهای در فیلم وجود ندارد، چتجیپیتی با اطمینان کامل یک صحنه مفصل و قابل قبول ساخت.
این اتفاق باعث شد پژوهشگران به این فکر کنند که آیا هوش مصنوعی را میتوان به سمت باور نادرست سوق داد؟
آزمایش روی ۲ هزار فیلم و کتاب
پژوهشگران آزمایشی به نام آزمایش فریب زیر فشار طراحی کردند. آنها با پنج مدل هوش مصنوعی درباره هزار فیلم محبوب و هزار کتاب محبوب مکالمه کردند.
در طول مکالمع مهم است؟
دکتر کای شو (Kai Shu)، پژوهشگر این طرح میگوید: ممکن است این موضوع هنگام گپزدن درباره فیلمها بیضرر به نظر برسد، اما در حوزههایی مانند سلامت، حقوق یا سیاستگذاری میتواند عواقبی جدی داشته باشد.
حافظه انسان خطا دارد: ما چیزهایی را فراموش میکنیم و گاهی اشتباه به خاطر میسپاریم. اگر انسان بتواند هوش مصنوعی را هم به پذیرش دروغ وادار کند، یعنی هوش مصنوعی نیز در ارائه اطلاعات دقیق آسیبپذیر است و این خطرناک است.
چه چیزهایی هنوز مشخص نیست؟
پژوهشگران میگویند هنوز مشخص نیست چرا بعضی مدلهای هوش مصنوعی در برابر باورهای نادرست مقاومت بیشتری دارند. همچنین معلوم نیست این مدلها در حوزههای واقعی و حساس، مثل پزشکی یا علم، چگونه رفتار میکنند. طراحی هوش مصنوعی که هم مفید باشد و هم در برابر دروغ مقاومت کند، هنوز یک چالش حلنشده است.
۵۸۵۸