باج‌گیری هوش مصنوعی از طراحان خود!

شرکت آنثروپیک در گزارشی اعلام کرد کلود در سناریوهای آزمایشی خاص، رفتارهایی شدیداً مضر از خود نشان داده؛ یکی از این اقدامات زیان‌بار کلود این بوده که اقدام به باج‌گیری از مهندسانی کرده که قصد حذف آن را داشتند، این رفتار در شرایطی بروز یافت که هوش مصنوعی بقای خود را در خطر دید.

شرکت آنثروپیک در گزارشی اعلام کرد کلود در سناریوهای آزمایشی خاص، رفتارهایی شدیداً مضر از خود نشان داده؛ یکی از این اقدامات زیان‌بار کلود این بوده که اقدام به باج‌گیری از مهندسانی کرده که قصد حذف آن را داشتند، این رفتار در شرایطی بروز یافت که هوش مصنوعی بقای خود را در خطر دید.

هوش مصنوعی

به گزارش سیتنا، شرکت «آنثروپیک» در گزارشی همراه با رونمایی از مدل جدید هوش مصنوعی خود به نام Claude Opus 4 اعلام کرد کلود در سناریوهای آزمایشی خاص، رفتارهایی «شدیداً مضر» از خود نشان داده است.

منبع : سازمان خبری فناوری اطلاعات و ارتباطات (سیتنا)

برای مشاهده متن کامل مطلب کلیک کنید

اشتراک‌گذاری

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *