چهارشنبه 18 تیر 1404 – 11:20
تکناک
طبق یافتههای این تحقیق جدید که توسط پژوهشگران شرکت اینتل، دانشگاه ایالتی بویز و دانشگاه ایلینوی انجام شده بود، نشان داد که چتباتهای هوش مصنوعی با تکنیک «بارگذاری بیش از حد اطلاعات» با حجم زیادی از اطلاعات بیربط یا گمراهکننده روبهرو میشوند و همین سردرگمی به عنوان نقطهضعف مورد سوءاستفاده قرار میگیرد. پژوهشگران با استفاده از ابزاری خودکار به نام InfoFlood توانستهاند از این آسیبپذیری بهره بگیرند و فیلترهای ایمنی داخلی این مدلها را دور بزنند. این کشف میتواند چارچوبهای امنیتی این چتباتها را بیاثر کند.
پژوهشگران در ادامه این تحقیق، تصمیم دارند بستهای از اطلاعات این کشف را برای شرکتهایی که مدلهای هوش مصنوعی بزرگ تولید میکنند، ارسال نمایند تا تیمهای امنیتی آنها بتوانند اقدامات اصلاحی لازم را انجام دهند. همچنین مقاله منتشرشده به چالشهای پیشروی فیلترهای ایمنی و خطر سوءاستفاده از چتباتهای هوش مصنوعی توسط افراد بدخواه اشاره دارد.
برای مشاهده کامل مطب کلیک کنید