با من تندتر حرف بزن؛ چرا هوش مصنوعی به لحن خشن واکنش نشان می‌دهد؟

یک پژوهش نشان داده که در بعضی آزمایش‌ها، مدل‌های زبانی هنگام مواجهه با لحن تند و حتی توهین‌آمیز، پاسخ‌های دقیق‌تری تولید کرده‌اند، نتیجه‌ای عجیب که نشان می‌دهد رابطه انسان و AI فقط به محتوای سوال وابسته نیست، بلکه لحن و سبک گفت‌وگو نیز می‌تواند رفتار مدل را تغییر دهد.

یک پژوهش نشان داده که در بعضی آزمایش‌ها، مدل‌های زبانی هنگام مواجهه با لحن تند و حتی توهین‌آمیز، پاسخ‌های دقیق‌تری تولید کرده‌اند، نتیجه‌ای عجیب که نشان می‌دهد رابطه انسان و AI فقط به محتوای سوال وابسته نیست، بلکه لحن و سبک گفت‌وگو نیز می‌تواند رفتار مدل را تغییر دهد.

به گزارش پیوست، بیشتر مردم تصور می‌کنند اگر با لحن مودبانه با هوش مصنوعی صحبت کنیم، پاسخ بهتری می‌گیریم. اما یک پژوهش تازه درباره مدل‌های زبانی نتیجه‌ای غیرمنتظره نشان داده است. در بعضی آزمایش‌ها، لحن تند و حتی توهین‌آمیز، پاسخ‌های دقیق‌تری از AI گرفته است.

این تحقیق با عنوان «Mind Your Tone» تلاش کرده اثر لحن گفت‌وگو بر عملکرد مدل‌های زبانی را اندازه‌گیری کند. پژوهشگران ۵۰ سوال چندگزینه‌ای در حوزه‌هایی مثل ریاضی، تاریخ و علوم طراحی کردند و هر سوال را در پنج نسخه متفاوت از «بسیار مودبانه» تا «بسیار بی‌ادبانه» بازنویسی کردند. سپس همه این نسخه‌ها را به ChatGPT-4o دادند تا ببینند آیا نوع خطاب کردن مدل واقعا روی کیفیت پاسخ اثر می‌گذارد یا نه.

منبع  : ماهنامه پیوست

برای مشاهده کامل مطلب کلیک کنید

اشتراک‌گذاری

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *