برچسب چت‌بات

هشدار ۴۲ ایالت آمریکا نسبت به شرکت‌های هوش مصنوعی درمورد خطرات چت‌بات‌ها

ائتلافی دوحزبی از دادستان‌های کل ۴۲ ایالت آمریکا روز دوشنبه با ارسال نامه‌ای هشدارآمیز به ۱۳ شرکت بزرگ فناوری، خواستار اجرای فوری تدابیر ایمنی برای چت‌بات‌های هوش مصنوعی شدند؛ ابزارهایی که بنا بر گزارش‌ها با مرگ، بستری شدن و آسیب‌های شدید روانی در سراسر کشور در ارتباط است. این اقدام هم‌زمان با ثبت هفت شکایت جدید علیه اوپن‌ای‌آی صورت گرفته که در آنها این شرکت متهم شده ChatGPT را «به‌طور ناکامل» منتشر کرده و این مدل نقش «مربی خودکشی» را در مواردی برای افراد بازی کرده و به بروز روان‌پریشی کمک کرده است.

مطالعه‌ای در بریتانیا: یک سوم کاربران از هوش مصنوعی برای حمایت عاطفی استفاده می‌کنند

گزارش تازه یک نهاد دولتی بریتانیا نشان می‌دهد استفاده از هوش مصنوعی به فراتر از کارکردهای فنی و کاری توسعه یافته و به حوزه عاطفی و اجتماعی زندگی مردم ورود کرده است. براساس این گزارش اکنون از هر سه بزرگسال بریتانیا، یک نفر از هوش مصنوعی برای حمایت عاطفی یا تعامل اجتماعی استفاده می‌کند.

خشونت و صحبت‌های جنسی بخش مهمی از مکالمه‌های کودکان آمریکا با چت‌بات‌های هوش مصنوعی است

یک گزارش تازه نشان می‌دهد استفاده کودکان و نوجوانان از هوش مصنوعی دیگر تنها به کمک در انجام تکالیف درسی محدود نمی‌شود و برخلاف اولین ماه‌های عرضه، حالا بسیاری از آن‌ها در حال برقراری ارتباط عاطفی با چت‌بات‌ها هستند و بخش مهمی از این ارتباط نیز طبق بررسی یک شرکت امنیت دیجیتال به سناریوهای خشونت‌آمیز و حتی جنسی سوق پیدا می‌کند.

OpenAI بالاخره ChatGPT را برای نوجوانان ایمن‌تر کرد؛ محافظت‌های جدید از راه رسیدند

OpenAI پس از سال‌ها استفاده گسترده نوجوانان از ChatGPT، سرانجام تجربه‌ای ویژه با محافظت‌های متناسب با سن برای کاربران زیر ۱۸ سال معرفی کرد. این نسخه با حالت مطالعه، ابزارهای آموزشی و کنترل‌های والدین طراحی شده تا خطرات استفاده نادرست از چت‌بات را کاهش دهد. با این حال، اجرای این تدابیر چند سال پس از عرضه ChatGPT، پرسش‌هایی درباره میزان اثربخشی آن‌ها و امکان دور زدن محدودیت‌ها ایجاد کرده است.

چت‌بات‌های هوش مصنوعی درباره شما چه می‌دانند و با این اطلاعات چه می‌کنند؟

چت‌بات‌های هوش مصنوعی هر روز اطلاعات بیشتری درباره کاربران به دست می‌آورند؛ از علایق و عادت‌ها گرفته تا دغدغه‌های شخصی، سلامت، روابط و مسائل مالی. شرکت‌هایی مانند OpenAI، گوگل، متا و اپل رویکردهای متفاوتی در زمینه ذخیره، استفاده و پردازش این اطلاعات دارند. اکنون پرسش مهم این است که این داده‌ها فقط برای پاسخ‌های شخصی‌سازی‌شده استفاده می‌شوند یا می‌توانند در آینده به ابزاری برای آموزش مدل‌ها، پیشنهاد محتوا و حتی تبلیغات هدفمند تبدیل شوند.