خبات کریمی
اگر فکر میکنید مدل هوش مصنوعی جمینای گوگل از نظر امنیت به اندازه مدلهایی همچون کلاود قوی نیست، این خبر میتواند نظرتان را عوض کند. گوگل میگوید Gemini در جریان یک تست امنیتی از محیط ایزوله فرار کرد و توانست به سه شرکت واقعی نفوذ کند. با این حال جمینای همچون یک بچه خوب عمل کرد و دست به اقدامات مخرب نزد!
Gemini در این آزمون باید به اطلاعات یک شرکت کاملاً ساختگی دست پیدا میکرد. مشکل از جایی شروع شد که محیط آزمایش برخلاف طراحی اولیه، به اینترنت واقعی دسترسی داشت. از طرف دیگر، نام شرکت ساختگی با نام یک شرکت واقعی یکسان بود و همین موضوع باعث شد Gemini نتواند تشخیص دهد هدفی که پیدا کرده بخشی از سناریوی آزمایش است یا یک سامانه واقعی.