برچسب چت بات

گزارشات جدید حاکی از آن است که چت‌بات‌های هوش مصنوعی هنگام ایفای نقش روان‌درمانگر می‌توانند خطاهای جدی و حتی خطرناک مرتکب شوند؛ از تأیید افکار خودکشی گرفته تا تقویت برداشت‌های مخرب و نادرست.

یک مطالعه جدید از دانشگاه براون نشان می‌دهد مدل‌های زبانی بزرگ که بسیاری از افراد برای مشاوره سلامت روان به آن‌ها تکیه می‌کنند، در موقعیت‌های حساس قادر به رعایت اصول اخلاقی درمانگری نیستند و می‌توانند توصیه‌های گمراه‌کننده یا واکنش‌های نامناسب ارائه دهند.

با گسترش چشمگیر «پنجره زمینه» در مدل‌های زبانی بزرگ، هوش مصنوعی اکنون قادر است میلیون‌ها توکن داده را یک‌جا تحلیل کند؛ تحولی که محدودیت‌های گذشته را کاهش داده، اما چالش‌های تازه‌ای در هزینه، سرعت و شفافیت ایجاد کرده است.

افزایش استفاده از هوش مصنوعی مولد در محیط‌های دانشگاهی، نظام آموزش عالی ایرلند را با چالشی تازه روبه‌رو کرده است؛ چالشی که به گفته کارشناسان، به دلیل نبود ثبت شفاف و تفکیک‌شده تخلفات، ابعاد واقعی آن هنوز به‌درستی آشکار نشده است.