یک پژوهشگر ارشد ایمنی در شرکت Anthropic هشدار داده است که به باور او، احتمال اینکه هوش مصنوعی در دهه آینده باعث نابودی همه انسانها شود، بیش از ۱۰ درصد است.
این هشدار پس از استعفای جیکوب کاکسون، پژوهشگر هوش مصنوعی که سابقه فعالیت در OpenAI و Anthropic را دارد، مطرح شد. کاکسون در پیامی اعلام کرد که از Anthropic استعفا داده، زیرا معتقد است شرکتهای بزرگ هوش مصنوعی در رقابتی خطرناک برای ساخت سیستمهای فوقهوشمندی قرار گرفتهاند که میتوانند خودشان را بهبود دهند و در نهایت از کنترل انسان خارج شوند.