برچسب آنتروپیک

مدیران آنتروپیک، اُپن‌اِی‌آی، ایکس‌اِی‌آی و گوگل دیپ‌مایند در مواضعی کم‌سابقه، نسبت به سرعت فزاینده پیشرفت مدل‌های هوش مصنوعی هشدار دادند و بر ضرورت ایجاد فاصله میان رشد قابلیت این فناوری و توانایی بشر برای ارزیابی، ایمن‌سازی و کنترل آن تأکید کردند.

کارشناسان امنیتی دولت بریتانیا هشدار می دهند که مجرمان سایبری تنها سه تا پنج ماه تا استفاده از هوش مصنوعی برای سرقت از حساب های بانکی فاصله دارند. به گفته مقامات دفتر کابینه که با موسسه امنیت هوش مصنوعی بریتانیا همکاری می کنند، این سناریوی کابوس ممکن است زودتر از انتظار رخ دهد، زیرا آزمایشگاه های چینی مدل های هوش مصنوعی را بدون محافظ های ایمنی سخت گیرانه عرضه می کنند.

افزایش هشدارهای برخی پژوهشگران و مدیران صنعت هوش مصنوعی درباره احتمال تهدید این فناوری برای بشریت، بحث گسترده‌ای را درباره منشأ این نگرانی‌ها به راه انداخته است؛ برخی آن را هشداری واقعی درباره خطرات آینده می‌دانند و برخی دیگر معتقدند این اظهارات می‌تواند به ابزاری برای نمایش توانمندی مدل‌های پیشرفته هوش مصنوعی تبدیل شود.

جاش انگلس، محقق و افشاگر سابق تیم ایمنی گوگل دیپ مایند، پس از استعفا و پیوستن به سازمان غیرانتفاعی METR، هشدار داد که هوش مصنوعی باید به عنوان یک گونه دوم با ارزش های بیگانه در نظر گرفته شود که انسان ممکن است نتواند آن را کنترل کند. او گفت: «من نگرانم اگر توانایی تضمین اینکه آنها بهترین منافع ما را در نظر دارند را نداشته باشیم، هیچ تضمینی وجود ندارد که انسان کنترل آینده را حفظ کند.» این هشدارها پس از استعفای جیکوب کاکسون از Anthropic و هشدار او درباره «قمار با جان انسان ها» مطرح شده است.