در سال های اخیر شاهد هستیم استفاده عمومی از هوش مصنوعی و ترکیب آن با شبکه های اجتماعی، در حال تغییر مرز میان واقعیت و جعل است؛ فناوریای که میتواند تصویر، صدا، ویدئو و حتی روایت های تاریخی را چنان بازسازی کند که تشخیص حقیقت برای انسان دشوار شود. مسئله دیگر فقط ساخت یک تصویر جعلی نیست؛ بلکه امکان تولید انبوه روایتهای باورپذیر و دستکاری حافظه جمعی است که پیامدهای اجتماعی، فرهنگی و علمی دارد.
به گزارش سیناپرس، برای قرنها، انسان تصویر، صدا و سند مکتوب را از مهمترین ابزارهای ثبت و انتقال واقعیت میدانست. عکس از یک رویداد، فیلم یک حادثه یا صدای یک شخصیت معمولاً نوعی شاهد غیر قابل کتمان تلقی میشد؛ اما ظهور هوش مصنوعی مولد این تصور را با چالشی جدی روبهرو کرده است. اکنون میتوان تصویری از رویدادی ساخت که هرگز اتفاق نیفتاده، صدای فردی را تولید کرد که هرگز آن جمله را نگفته و ویدئویی ساخت که در آن یک فرد واقعی کاری را انجام میدهد که در واقعیت انجام نداده است.
«دیپفیک» (Deepfake) یکی از شناختهشدهترین شکلهای این فناوری است؛ محتوای صوتی یا تصویری که با استفاده از هوش مصنوعی تولید یا دستکاری شده و میتواند چهره، صدا یا حرکات یک فرد را با دقتی چشمگیر بازسازی کند. این فناوری در ابتدا بیشتر در آزمایشگاههای پژوهشی و پروژههای تخصصی مورد استفاده قرار میگرفت، اما اکنون ابزارهای تولید محتوای مصنوعی بسیار گستردهتر و استفاده از آنها بسیار سادهتر شده است.