يکشنبه ۲۸ تير ۱۴۰۵ ساعت ۰۲:۵۸
دادستان شهر سانفرانسیسکو، دیوید چیو، با ارسال اخطارهای قانونی (Cease-and-Desist) به اپل و گوگل، از این دو شرکت خواسته است مجموعهای از اپلیکیشنهای موسوم به «Nudify» را از فروشگاههای App Store و Google Play حذف کنند.
این اپلیکیشنها با استفاده از هوش مصنوعی، تصاویر افراد را بدون رضایت آنها به تصاویر برهنه یا محتوای جنسی جعلی تبدیل میکنند.
مقامهای شهر سانفرانسیسکو با ارسال اخطارهای رسمی به اپل و گوگل، از این دو شرکت خواستهاند دهها اپلیکیشن مبتنی بر هوش مصنوعی را که برای تولید تصاویر برهنه جعلی و بدون رضایت افراد استفاده میشوند، از فروشگاههای نرمافزاری خود حذف کنند. این اقدام تازهترین تلاش برای مقابله با گسترش سوءاستفاده از فناوری دیپفیک است.
این اپلیکیشنها با استفاده از هوش مصنوعی، تصاویر افراد را بدون رضایت آنها به تصاویر برهنه یا محتوای جنسی جعلی تبدیل میکنند.
به گفته این مقام قضایی، اپل و گوگل مدتهاست از وجود این برنامهها و کاربرد آنها در تولید تصاویر غیراخلاقی و آزاردهنده آگاه هستند، اما همچنان با میزبانی و دریافت کارمزد از توسعهدهندگان این اپلیکیشنها، از فعالیت آنمحدود کرده است، اما مقامهای سانفرانسیسکو این اقدامات را ناکافی میدانند.
اپل نیز تا زمان انتشار گزارش، واکنش رسمی به این اخطارها نشان نداده است.
مطابق اعلام تککرانچ، بر اساس قوانین ایالت کالیفرنیا، اگر شرکتها پس از دریافت اخطار رسمی برای جلوگیری از انتشار تصاویر جنسی جعلی بدون رضایت افراد اقدام نکنند، ممکن است با پیگرد حقوقی و جریمههای مدنی مواجه شوند.
کارشناسان معتقدند این پرونده میتواند به یکی از مهمترین آزمونهای حقوقی درباره مسئولیت فروشگاههای اپلیکیشن در قبال محتوای تولیدشده با هوش مصنوعی تبدیل شود.