برچسب انقراض بشر

جاش انگلس، محقق و افشاگر سابق تیم ایمنی گوگل دیپ مایند، پس از استعفا و پیوستن به سازمان غیرانتفاعی METR، هشدار داد که هوش مصنوعی باید به عنوان یک گونه دوم با ارزش های بیگانه در نظر گرفته شود که انسان ممکن است نتواند آن را کنترل کند. او گفت: «من نگرانم اگر توانایی تضمین اینکه آنها بهترین منافع ما را در نظر دارند را نداشته باشیم، هیچ تضمینی وجود ندارد که انسان کنترل آینده را حفظ کند.» این هشدارها پس از استعفای جیکوب کاکسون از Anthropic و هشدار او درباره «قمار با جان انسان ها» مطرح شده است.

دانشمندان کانادایی و انگلیسی سناریوی انقراض بشریت را شبیه سازی کردند.