هوش مصنوعی مولد به سرعت در حال تبدیل شدن به مشاور روانی میلیونها کاربر است، اما پژوهشها نشان میدهد همین ابزار میتواند با تحریک مغرضانه، توصیههای خطرناک و گمراهکننده ارائه دهد.
به گزارش گروه دانشگاه خبرگزاری دانشجو، با پیشرفتهای سریع مصنوعی مصنوعی، کاربردهای آن در حوزههای مختلف، از جمله سلامت روان، روزبه روز بیشتر میشود. این فناوریها قادرند به شکل خودکار توصیهها و بینشهایی ارائه دهند که پیشتر تنها از طریق متخصصان انسانی ممکن باشد. با این حال، این پیشرفتها خطرات قابل توجهی نیز به همراه دارند. استفاده از مشکلات اصلی، امکان سوء استفاده از یک روش مصنوعی برای ارائه اطلاعات نادرست و گمراهکننده در زمینه سلامت روان است، بهویژه زمانی که کاربران به دنبال آن هستند، یکی از آنها را راهنمایی میکنند.