مجله وایرد میگوید دولت ایالات متحده یک گزارش کلیدی در حوزه ایمنی هوش مصنوعی را که در پایان دولت جو بایدن فرایند تکمیل آن به پایان رسیده بود هیچگاه منتشر نکرده است. این گزارش ماحصل نتایج یک آزمایش «رد تیمینگ» کمسابقه برای سنجش آسیبپذیری مدلهای زبانی پیشرفته و سایر سیستمهای هوش مصنوعی است اما به نظر سیاست دولت ترامپ برای کاهش فشار و محدودیتهای صنعت هوش مصنوعی مانع از انتشار آن شده است.
به گزارش پیوست، این آزمایش که اکتبر سال گذشته و در جریان کنفرانس امنیت رایانهای CAMLIS در آرلینگتون انجام گرفت، بخشی از برنامه «ارزیابی ریسکها و پیامدهای هوش مصنوعی» (ARIA) موسسه ملی استاندارد و فناوری آمریکا (NIST) بود و با همکاری شرکت Humane Intelligence انجام شد.
براساس این آزمایش که در مدت دو روز انجام گرفت، چندین تیم پژوهشی موفق به شناسایی ۱۳۹ روش جدید برای وادار کردن سیستمها به رفتارهای نامطلوب شدند؛ رفتارهایی که موضوعاتی همچون تولید اطلاعات نادرست تا افشای دادههای شخصی و تسهیل حملات سایبری را شامل میشد.