سهشنبه 4 آذر 1404 – 13:39
مطالعهای از دانشگاه براون نشان میدهد که چتباتهای هوش مصنوعی معرفیشده برای مشاوره پشتیبانی از سلامت روان، اصول اخلاقی اساسی را زیر پا میگذارند.
تکناک
مطالعهای مشترک میان دانشمندان کامپیوتر دانشگاه براون و متخصصان سلامت روان نشان میدهد که چتباتهای مبتنی بر LLM میتوانند تخلفات اخلاقی متعددی داشته باشند؛ از مدیریت ناکارآمد موقعیتهای بحرانی و ارائه بازخوردهای گمراهکننده که باورهای مخرب فرد درباره خود را تقویت میکنند گرفته تا تا ایجاد توهمی از همدلی بدون درک واقعی احساسات کاربران.
بیشتر بخوانید: توقف فروش عروسک Kumma پساز جنجال ایمنی هوش مصنوعی
افتخار خاطرنشان کرد که هرچند درمانگران انسانی نیز ممکن است در معرض این ریسکها باشند، تفاوت کلیدی در مسئولیتپذیری است. او گفت: «در مورد درمانگران انسانی، هیئتهای نظارتی و سازوکارهایی وجود دارد که آنها را در برابر سوءرفتار و کوتاهیهای حرفهای پاسخگو میکند، اما برای مشاوره هوش مصنوعی چنین چارچوب نظارتی مشخصی وجود ندارد.»
پاولیک توضیح میدهد: «واقعیت امروز هوش مصنوعی این است که ساخت و استقرار سیستمها بسیار آسانتر از ارزیابی و درک آنهاست. این مطالعه با کمک تیمی از متخصصان بالینی و بیش از یک سال پژوهش انجام شد تا ریسکهای اخلاقی آشکار شود. در حال حاضر، بیشتر ارزیابیهای هوش مصنوعی مبتنی بر معیارهای خودکار است که بهطور ذاتی ایستا هستند و انسان در چرخه تصمیمگیری حضور ندارد.»
برای مشاهده کامل مطب کلیک کنید