شرکت اوپنایآی روز سهشنبه از مجموعهای قابلیتهای جدید برای افزایش ایمنی نوجوانان در استفاده از چتبات ChatGPT رونمایی کرد؛ اقدامی که در پاسخ به نگرانیهای گسترده درباره نحوه تعامل افراد کمسنوسال با هوش مصنوعی و پس از آن صورت گرفت که والدین نوجوانی ۱۶ ساله پس از خودکشی او از این شرکت به دلیل نقش داشتن در این فاجعه شکایت کردند.
به گزارش پیوست به نقل از مجله وایرد، این شرکت قصد دارد با استفاده از فناوری پیشبینی سن، کاربران زیر ۱۸ سال را شناسایی کرده و تجربهای «متناسب با سن» را در اختیار آنها بگذارد؛ تجربهای که موضوعاتی مثل عدم دسترسی به محتوای جنسی آشکار و مداخلات فوری در صورت تشخیص نشانههای خودکشی یا آسیب به خود را شامل میشود.
طبق این طرح، اگر سیستم تشخیص دهد کاربر نوجوان در معرض خطر فوری قرار دارند، ابتدا به والدین فرد اطلاعرسانی میشود. در مواردی که دسترسی به والدین ممکن نباشد، اوپنایآی میگوید ممکن است موضوع به مراجع قانونی گزارش شود. این تصمیمها بخشی از تلاش شرکت برای ایجاد تعادل میان آزادی، حریم خصوصی و امنیت نوجوانان است.