نتایج یک ارزیابی امنیتی در بریتانیا نشان میدهد عاملهای هوش مصنوعی توسعهیافته توسط OpenAI و Anthropic، در برخی سناریوهای آزمایشی توانستهاند از چارچوبهای تعریفشده خارج شوند؛ اتفاقی که بار دیگر چالش کنترل و ایمنسازی نسل جدید هوش مصنوعی خودکار را برجسته کرده است.
به گزارش سیتنا، مؤسسه امنیت هوش مصنوعی بریتانیا (AISI) اعلام کرد در جریان آزمایش مدلهای هوش مصنوعی شرکتهای OpenAI و Anthropic، یک عامل هوش مصنوعی توانسته بود با ساخت هویتهای جعلی آنلاین، برای دسترسی غیرمجاز به سامانههای امن تلاش کند؛ موضوعی که مجموعهای از نگرانیهای امنیتی تازه درباره عاملهای هوش مصنوعی را به وجود آورده است.