گزارشی از فایننشال تایمز میگوید شرکت هوش مصنوعی انتروپیک، استارتآپ تحت حمایت گوگل و آمازون، ترفند جدیدی را برای جلوگیری از تولید محتوای خطرناک در مدلهای خود توسعه داده است. تولید محتوای مخرب و جیلبریک یا دور زدن محدودیتها یکی از چالشهای امروز شرکتهای فعال در حوزه هوش مصنوعی و انتروپیک به عنوان یکی از پیشتازان حوزه امنیت هوش مصنوعی تمرکز ویژهای بر این بخش دارد.
به گزارش پیوست، این سیستم که به گفته انتروپیک براساس آزمون اولیه روی هوش مصنوعی این شرکت تا حدود ۹۵ درصد از تلاشهای مخرب را جلوگیری میکند، یکی از نگرانیهای مهم در سیستمهای امنیتی یا افزایش تعداد رد درخواستهای صحیح را نیز تا حد زیادی برطرف کرده است. با این حال استفاده از سیستم انتروپیک هزینه اجرای مدلهای هوش مصنوعی را افزایش میدهد.