نتایج یک آزمایش: هوش مصنوعی گوگل امنیت پایینی دارد

ICTPRESS – طبق بررسی‌های گوگل، مدل هوش مصنوعی جمینای ۲٫۵ فلش، عملکرد ضعیفی در تولید محتوای مطابق با سیاست‌های این شرکت دارد.

به گزارش شبکه خبری ICTPRESS، گوگل در گزارش فنی خود اعلام کرد مدل هوش مصنوعی جمینای ۲٫۵ فلش در دو شاخص ایمنی «متن به متن» و «تصویر به متن»، عملکرد ضعیف‌تری نسبت به نسخه‌ی قبلی خود داشته است. طبق داده‌های داخلی، این مدل به ترتیب ۴٫۱ درصد و ۹٫۶ درصد بیشتر از جمینای ۲ فلش محتوای مغایر دستورالعمل‌های ایمنی گوگل تولید می‌کند.

آزمون‌های گوگل به‌صورت خودکار و بدون دخالت انسان انجام می‌شوند و نشان می‌دهند که مدل جدید این شرکت با وجود دقت بالاتر در پیروی از دستورالعمل‌ها، گاهی دستوراتی را اجرا می‌کند که امکان دارد خلاف سیاست‌های ایمنی باشد.

انتشار نتایج بررسی‌های انجام‌شده روی مدل‌های جمینای در شرایطی صورت گرفت که شرکت‌های بزرگ هوش مصنوعی از جمله OpenAI و متا، می‌کوشند مدل‌های خود را در برابر موضوعات حساس، بازتر و پاسخ‌گای تحلیل‌گران مستقل دشوار است.

منبع : زومیت