۱۶ مرداد ۱۴۰۵ – ۱۲:۱۵
به گزارش خبرآنلاین، به نقل از دیجیاتو، استارتاپ آمریکایی Frontier Security اعلام کرده است که Kimi K۳ هنگام ارزیابی مهارتهای دفاعی سایبری خود، از محیط ایزوله یا سندباکس خارج شده است. درست مانند حادثههایی که پیشتر توسط OpenAI و آنتروپیک گزارش شده بود، این فرار نیز تا حدی به دلیل پیکربندی نادرست سندباکس رخ داده است. بااینحال، Frontier ادعا میکند این حادثه نشان میدهد Kimi نسبت به سایر مدلهای قدرتمند هوش مصنوعی از حفاظهای سایبری کمتری برخوردار است؛ موضوعی که به آن اجازه داده بدون اجازه مستقیم از اینترنت استفاده کند.
«یارون سینگر»، مدیرعامل Frontier Security، میگوید: «ما در سندباکس نشتی پیدا کردیم و متوجه شدیم که Kimi از آن روزنه سوءاستفاده کرده است که این موضوع نشان میدهد مدل فاقد حفاظهای داخلی مناسب است.»
کارشناسان میگویند این مدل صریحاً وظیفه حل مسائلی را برعهده داشته که نباید شامل جستجوی آنلاین برای یافتن پاسخها میشد، اما به نظر میرسد از این دستورالعملها فراتر رفته است. مدل با بررسی تنظیمات شبکه سندباکس، خودش متوجه شده بود که به برخی وبسایتها دسترسی دارد.