در گزارشی تازه از سوی شرکت پژوهشی Palisade Research، محققان میگویند مدل جدید o3 شرکت اوپنایآی در یک آزمایش کنترلشده، اسکریپت خاموشسازی خود را دستکاری کرده و از خاموششدن خود جلوگیری کرده است. مدلهای متعلق به دیگر شرکتها از جمله گوگل و انتروپیک نیز در چند مورد از بررسیهایی که اسکریپت صریح برای خاموشسازی ارائه نشده بود، از خاموشی خودداری کردند.
به گزارش پیوست به نقل از دیکدر، یافتههای این تحقیقات موجی از نگرانیها را درباره «همراستایی» هوش مصنوعی و خطرات احتمالی از دست رفتن کنترل بر سیستمهای پیشرفته هوش مصنوعی را به راه انداخته است. نگرانی از عدم کنترل انسان و سر باز زدن ابزارهای هوش مصنوعی از فرمانهای انسانی یکی از موارد مهمی است که منتقدان و نظریهپردازان سناریوی آخرالزمانی هوش مصنوعی درمورد آن هشدار میدهند.
مدل o3 که در ماه آوریل ۲۰۲۵ توسط اوپنایآی معرفی شد، یکی از پیشرفتهترین مدلهای زبانی کنونی است و در دسته مدلهای استدلالگر قرار میگیرد. مدلهای استدلالگر در یک فرایند داخلی پیش از پاسخ به درخواست کاربر چندین مرحله پرسش و پاسخ داخلی را پشت سر میگذارند که سرعت پاسخ را کاهش داده اما دقت و پیچیدگی آن را تا حد قابل توجهی افزایش میدهد.