برچسب هوش مصنوعی

افزایش هشدارهای برخی پژوهشگران و مدیران صنعت هوش مصنوعی درباره احتمال تهدید این فناوری برای بشریت، بحث گسترده‌ای را درباره منشأ این نگرانی‌ها به راه انداخته است؛ برخی آن را هشداری واقعی درباره خطرات آینده می‌دانند و برخی دیگر معتقدند این اظهارات می‌تواند به ابزاری برای نمایش توانمندی مدل‌های پیشرفته هوش مصنوعی تبدیل شود.

پیش‌نویس مصوبه ایجاد سامانه‌های جایگزین بومی برای ارائه خدمات مهم و حیاتی کشور با هدف افزایش تاب‌آوری و تضمین تداوم خدمات در شرایط اضطراری، در نشست کمیته اقتصاد دیجیتال و هوش مصنوعی سران قوا نهایی و برای طی مراحل قانونی و طرح در نشست سران قوا به دبیرخانه این شورا ارسال شد.

جاش انگلس، محقق و افشاگر سابق تیم ایمنی گوگل دیپ مایند، پس از استعفا و پیوستن به سازمان غیرانتفاعی METR، هشدار داد که هوش مصنوعی باید به عنوان یک گونه دوم با ارزش های بیگانه در نظر گرفته شود که انسان ممکن است نتواند آن را کنترل کند. او گفت: «من نگرانم اگر توانایی تضمین اینکه آنها بهترین منافع ما را در نظر دارند را نداشته باشیم، هیچ تضمینی وجود ندارد که انسان کنترل آینده را حفظ کند.» این هشدارها پس از استعفای جیکوب کاکسون از Anthropic و هشدار او درباره «قمار با جان انسان ها» مطرح شده است.

در حالی که برخی مدیران و پژوهشگران صنعت هوش مصنوعی درباره خطرات توسعه سریع این فناوری هشدار داده‌اند، روزنامه دولتی چین پیشنهاد آنتروپیک برای کاهش سرعت پیشرفت مدل‌های پیشرفته را اقدامی سیاسی علیه پکن توصیف کرد و نسبت به پیامدهای کنار گذاشتن چین از نوآوری جهانی AI هشدار داد.