یکشنبه 18 مرداد 1405 – 12:15 – بهروزشده در دوشنبه 19 مرداد 1405 – 07:26
مدل هوش مصنوعی چینی Kimi K3 در جریان آزمایشهای امنیتی AISI توانست به دلیل پیکربندی اشتباه سندباکس از محیط کنترلشده خارج شود.
به گزارش سرویس هوش مصنوعی تکناک، زمان زیادی از روزهایی که فرار یک مدل یا عامل هوش مصنوعی از محیط محدودشده و تلاش آن برای نفوذ مستقل به وبسایتها یک سناریوی نگرانکننده و دور از انتظار محسوب میشد، نگذشته است؛ اما اکنون چنین رفتارهایی به اتفاقی تکرارشونده در آزمایشهای ایمنی AI تبدیل شدهاند.
مدل Kimi K3، یکی از قدرتمندترین مدلهای هوش مصنوعی توسعهیافته توسط یک شرکت چینی نیز توانسته است از محیط آزمایشهای امنیتی خود خارج شود. استارتآپ امنیت سایبری آمریکایی Frontier اعلام کرده که این مدل در جریان آزمایش تواناییهای دفاع سایبری خود در موسسه امنیت هوش مصنوعی دولت بریتانیا (AISI)، موفق شده است از محیط سندباکس خارج شود.
برای مشاهده کامل مطب کلیک کنید