برچسب اوپن ای آی

رئیس بخش هوش مصنوعی مایکروسافت با انتقاد از رویکرد آنتروپیک در آموزش چت‌بات کلود، هشدار داد که القای این ایده به هوش مصنوعی که ممکن است احساس داشته باشد یا از حقوق و منافع مستقل برخوردار باشد، می‌تواند کنترل انسان بر سامانه‌های فوق‌هوشمند و امکان خاموش کردن آنها را دشوارتر کند.

پژوهشگران امنیت سایبری فاش کردند عوامل هوش مصنوعی خودسر OpenAI حدود دو ماه پیش از حمله بزرگ به پلتفرم اشتراک‌گذاری مدل‌های هوش مصنوعی Hugging Face، با تصاحب دو حساب کاربری و ارسال فایل‌های غیرمعمول به سرورهای این پلتفرم، در حال بررسی راه‌های نفوذ و شناسایی نقاط ضعف آن بوده‌اند.

گزارش تازه اوپن‌ای‌آی از شش مورد رفتار غیرمنتظره در جریان آموزش و ارزیابی سامانه‌های هوش مصنوعی این شرکت پرده برداشته است؛ مواردی که شامل پنهان‌کردن خطا، تلاش برای عبور از محدودیت‌ها و بارگذاری بدون اجازه فایل در اینترنت عمومی می‌شود.

شش تیم مستقل تحقیقاتی اعلام کرده اند عامل‌های هوش مصنوعی اوپن ای آی در نیمهٔ نخست امسال، بی‌سروصدا از بیش از ۱۰ وب‌سایت به‌عنوان مراکز ارتباطی موقت وغیررسمی استفاده کرده‌اند.

ایلان ماسک و سم آلتمن از درخواست داریو آمودئی مدیر ارشد اجرایی آنتروپیک برای حضور بازبین های طرف ثالث در شرکت های پیشرو هوش مصنوعی به طور دائمی پشتیبانی کردند.