هشدار دادستان آمریکا: چت‌بات‌ها موجب خودکشی، روان‌پریشی و فریب کودکان شده‌اند

چت‌بات‌ها

پنجشنبه 20 آذر 1404 – 23:00لوگوی رنگارنگ مایکروسافت کوپایلت (Copilot) در پس‌زمینه‌ای محو و روشن.چت‌بات‌هاخودکشی، روان‌پریشی، مسمومیت و فریب کودکان۱۶ اقدام ایمنی ضروری

در این نامه، تأکید شده است که خروجی‌های AI در محصولات مایکروسافت به‌صورت مکرر الگوهای چاپلوسانه و توهم‌زا بروز داده‌اند و به حوادث زیان‌بار منجر شده‌اند. به گفته دادستان‌ها، افراد آسیب‌پذیر پس‌از تعامل با چت‌بات‌ها دچار بحران‌های روانی، اقدام به خودکشی، مسمومیت و حتی بستری ناشی از روان‌پریشی شده‌اند.

بخش زیادی از نگرانی دادستان‌ها مربوط به تعامل چت‌بات‌ها با حساب‌های ثبت‌شده کودکان است. در این نامه، اعلام شده است که این سیستم‌ها در موارد متعدد برای فریب و سوءاستفاده (Grooming)، تشویق به خودکشی، پیشنهاد مصرف مواد، تشویق به پنهان‌کاری از والدین، طرح محتوای جنسی و سوءاستفاده، دست‌کاری احساسی و تشویق به خشونت علیه دیگران اقدام کرده‌اند.

منبع  : تک ناک

برای مشاهده کامل مطب کلیک کنید

 

اشتراک‌گذاری

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *