خطرات استفاده از چت‌بات‌های هوش مصنوعی برای روان‌درمانی!

ICTPRESS – پژوهش جدید «دانشگاه استنفورد» نسبت به خطرات قابل توجه استفاده از چت‌بات‌های درمانی هوش مصنوعی هشدار داده است.

به گزارش شبکه خبری ICTPRESS به نقل از تک کرانچ، پژوهشگران «دانشگاه استنفورد» می‌گویند چت‌بات‌های درمانی که توسط مدل‌های زبانی بزرگ پشتیبانی می‌شوند، ممکن است به کاربران مبتلا به مشکلات سلامت روان انگ بزنند و به آنها پاسخ‌های نامناسب یا حتی خطرناکی را ارائه دهند.

در حالی که گزارش‌های اخیر نیویورک تایمز و پایگاه‌های خبری دیگر، نقشی را که «چت‌جی‌پی‌تی» ممکن است در تقویت تفکر توهمی یا توطئه‌گرایانه ایفا کند برجسته کرده‌اند، مقاله جدیدی با عنوان «انگ زدن و ارائه پاسخ‌های نامناسب مانع از جایگزینی ایمن مدل‌های زبانی بزرگ به جای ارائه‌دهندگان خدمات سلامت روان می‌شود»، پنج چت‌بات را که برای ارائه درمان در دسترس طراحی شده‌اند، مورد بررسی قرار داده و آنها را براساس دستورالعمل‌های مربوط به آنچه یک درمانگر انسانی خوب را می‌سازبه طور بالقوه آینده‌ بسیار قدرتمندی را در حوزه‌ درمان دارند، اما ما باید به طور انتقادی درباره نقش آنها فکر کنیم.