جمعه 30 مرداد 1405 – 23:20 – بهروزشده در شنبه 31 مرداد 1405 – 09:36
به گزارش سرویس هوش مصنوعی تکناک، شرکت OpenAI با هدف ارتقای سطح ایمنی کاربران کمسنوسال، نسخه ویژهای از چتبات خود را با نام چتجیپیتی برای نوجوانان عرضه کرده است. این اقدام که با محدودیتهای سنی و سازوکارهای نظارتی جدید همراه است، پس از فشارهای قانونی و اخلاقی ناشی از بروز حوادث تلخ برای کاربران نوجوان هوش مصنوعی و در راستای محدودسازی خودکار دسترسی این گروه سنی انجام شده است. با این حال، کارشناسان ایمنی کودکان ضمن استقبال از کلیت این طرح، نسبت به کارایی سازوکارهای حفاظتی، شفافیت شرکت و نحوه اجرای عملیاتی این تعهدات ابراز تردید کردهاند.
روند طراحی این نسخه نوجوانان چتجیپیتی که از روز سهشنبه در دسترس قرار گرفت، پاسخی به نگرانیهای فزاینده درباره تاثیرات منفی احتمالی هوش مصنوعی بر سلامت روان نوجوانان است. شرکت سازنده اعلام کرد که سیستم شناسایی خودکار سن، بهگونهای طراحی شده که کاربر نیازی به تغییر تنظیمات ندارد؛ اگر پیشبینی سیستم بر این باشد که کاربر کمتر از ۱۸ سال سن دارد، تجربه کاربری بهصورت خودکار به نسخه محدودشده تغییر مییابد. این نسخه جدید علاوه بر اعمال محدودیتهای محتوایی، نوجوانان را به سمت قابلیتهای آموزشی هدایت میکند تا بهرهوری علمی آنان افزایش یابد. در کنار این موارد، دستورالعملهای جدیدی برای مدل هوش مصنوعی تعریف شده است که از جمله آنها میتوان به ممنوعیت استفاده از زبان عاشقانه، منع تشویق به وابستگی عاطفی و خودداری از القای احساسات یا آگاهی انسانی اشاره کرد.
برای مشاهده کامل مطب کلیک کنید