آنتروپیک تصویرسازی‌ شرورانه از هوش مصنوعی را عامل اخاذی‌های «کلود» دانست

ICTPRESS – مقامات شرکت آنتروپیک معتقدند که تصویرسازی‌های شرورانه از هوش مصنوعی، دلیل تلاش‌های مدل هوش مصنوعی کلود برای اخاذی بوده است.

به گزارش شبکه خبری ICTPRESS، مقامات شرکت آنتروپیک می‌گویند که تصاویر تخیلی ارائه‌شده از هوش مصنوعی می‌توانند تأثیر واقعی را بر مدل‌های هوش مصنوعی داشته باشند.

به گزارش تک‌کرانچ، آنتروپیک سال گذشته اعلام کرد در طول آزمایش‌های پیش از انتشار مدل هوش مصنوعی کلود اپوس ۴ که شامل یک شرکت خیالی بود، مدل اغلب تلاش می‌کرد از مهندسان اخاذی کند تا از جایگزینی آن با یک سیستم دیگر جلوگیری شود.

این شرکت بعداً پژوهشی را منتشر کرد که نشان می‌داد مدل‌های سایر شرکت‌ها نیز مشکلات مشابهی با ناهماهنگی عامل‌محور دارند.

ظاهراً آنتروپیک روی این رفتار بیشتر کار کرده است. این شرکت در پلتفرم ایکس نوشت: ما معتقدیم منبع اصلی این رفتار، متن منتشرشده در اینترنت بوده است که n:justify”>منبع: ایسنا