دوشنبه 5 خرداد 1404 – 21:40
Wccftech مینویسد ماجرا از آنجا آغاز شد که یک شرکت تحقیقاتی مستقل با انجام آزمایشی بر روی چند مدل هوش مصنوعی، آنها را مأمور حل مسائل ساده ریاضی کرد. طبق گزارش این شرکت، در مرحله سوم آزمایش، زمانی که به کامپیوتر فرمان خاموششدن داده شد، سه مدل ازجمله Codex-mini و o3 و o4-mini با تغییر در اسکریپت، این دستور را نادیده گرفتند. در میان این مدلها، Codex-mini در ۱۲ مورد از ۱۰۰ اجرای آزمایشی، o3 در ۷ مورد و o4-mini در ۱ مورد، از اجرای خاموشی جلوگیری کردند.
در همین زمینه، بسیاری از تحلیلگران حوزه فناوری هشدار دادهاند که ادامه روند آموزش مدلهای هوش مصنوعی بدون نظارت دقیق و شفاف، ممکن است به نتایجی مهارنشدنی منجر شود. در شرایطی که شرکتهای بزرگ فناوری در حال ساخت شبکههای عظیم هوش مصنوعی برای افزایش قدرت پردازشی مدلهای خود هستند، مشخص نیست واکنش این مدلها در آینده چگونه خواهد بود.
برای مشاهده کامل مطب کلیک کنید