مرجع خبر، آموزش، فناوری، سرگرمی و دانستنیهای روز
مرجع خبر، آموزش، فناوری، سرگرمی و دانستنیهای روز
به دنبال گسترش استفاده بدون اجازه از تصاویر افراد مشهور و زنان عادی برای ایجاد «دیپ فیک غیراخلاقی»، کارشناسان تاکید دارند که هوش مصنوعی در لبه تاریک پرتگاهی قرار گرفته است که چالشهای اخلاقی و حقوقی این حوزه نیازمند توجه و بررسی دقیق است.
به گزارش خبرآنلاین، به نقل از دیجیاتو، این ابزار امکان ساخت دیپفیکهای هوش مصنوعی از دنیای واقعی را با استفاده از متن فراهم میکرد. گوگل در روز پنجشنبه اعلام کرده بود که تصاویر تولید شده با Nano Banana در Google Earth دارای واترمارک دیجیتال هستند و این شرکت از تولید تصاویر درباره موضوعات آسیبزا جلوگیری میکند. اما حالا به نظر میرسد به علت سوءاستفاده کاربران از این قابلیت و ایجاد دیپ فیکهایی مغایر با قوانین، گوگل تصمیم گرفته تا این قابلیت را از دسترس کاربران Google Earth خارج کند.
متا در واکنش به درخواست هیئت نظارت خود، سیستم واترمارک نامرئی را برای تشخیص تصاویر تولیدشده توسط هوش مصنوعی معرفی کرد. اما این سیستم جدید در مقایسه با راه حل های موجود مانند SynthID گوگل و C2PA، با محدودیت های قابل توجهی از جمله اعمال فقط روی جدیدترین مدل ها، عدم پشتیبانی از ویدیو، وجود سقف استفاده روزانه و هماهنگی محدود با پلتفرم های دیگر مواجه است و نتوانسته انتظارات را برآورده کند.
به گزارش خبرآنلاین، به نقل از سیتنا، با پیشرفت سریع فناوری هوش مصنوعی، تصاویر موسوم به «دیپفیک» و چهرههای تولیدشده توسط الگوریتمها بهقدری واقعی شدهاند که تشخیص آنها از تصاویر واقعی روزبهروز دشوارتر میشود. با این حال، پژوهشگران در مطالعهای جدید اعلام کردهاند که انسانها همچنان میتوانند با آموزش و تمرین، این تصاویر را با دقت بالایی شناسایی کنند.
تیک تاک در حال آزمایش ابزاری جدید برای تشخیص شباهت چهره های تولیدشده با هوش مصنوعی است که به تولیدکنندگان محتوا امکان می دهد از تصویرشان در برابر دیپ فیک های غیرمجاز محافظت کنند.
اگر تا پیش از این از فتوشاپ برای ایجاد تصاویر جعلی استفاده میکردند که هرگز در واقعیت وجود نداشت، اکنون به لطف پیشرفت فناوری، ویدئوهای جعلی هم به گردونه اضافه شدهاند.