با شهرت گرفتن ابزارهای مولد تصویر هوش مصنوعی، یکی از موضوعات اصلی تشخیص تصاویر ساخته آنها است. ابزارهای تولید تصویر براساس توصیف کاربر، عکسهای واقعگرایانه تولید میکنند و برای کاهش احتمال سو استفاده باید راهکاری برای تشخیص آثار ساخته ماشین از آثار هنری انسان ایجاد شود. گوگل با سیستم جدیدی به رفع این مشکل کمک میکند.
به گزارش پیوست، یکی از مشکلات اصلی روشهای رایج واترمارک و نهاننگاری تصاویر، امکان اصلاح و از بین بردن آنها است. گوگل با سیستم جدیدی به نام «SynthID» برای رفع این مشکل تلاش میکند. استفاده از این سیستم در حال حاضر محدود به مولد تصویر Imagen از شرکت گوگل است اما در آینده احتمالا برای استفاده در ابزارهای مختلف توسعه پیدا میکند.
وبسایت مشبل میگوید این سیستم با هدف مبارزه با دیپفیک و سو استفاده از تصاویر ساخته هوش مصنوعی ساخته شده است. گوگل دیپمایند (Google DeepMind)، واحد هوش مصنوعی گوگل، به تازگی از نسخه آزمایشی یک ابزار واترمارک رونمایی کرده است که «یک واترمارک دیجیتالی را مستقیما داخل پیکسلهای یک تصویر هک میکند و با اینکه با چشم انسان قابل مشاهده نیست، میتوان آن را به صورت سیستمی شناسایی کرد.»