۲۷ مرداد ۱۴۰۵ –
۲۰:۱۹
به گزارش اکوایران، بر اساس گزارش نیوزگارد شبکه روسی «پراودا» در سال ۲۰۲۴ نزدیک به سه میلیون و ششصد هزار مطلب، یعنی روزانه نزدیک به 10 هزار مطلب منتشر کرده است، رقمی که با منطق شناختهشده روزنامهنگاری- نوشتن برای خوانده شدن- همخوانی ندارد.
این حجم از محتوا برای چه کسی تولید شده؟ اگر پای مخاطب انسانی در میان نیست، این همه تکرار و بهروزرسانی با چه هدفی بوده؟ و اگر مخاطب واقعی مورد نظر بوده، این مخاطب نامرئی دقیقا کیست؟ پاسخ را باید در دو مسیری جست که محتوای وب از طریق آنها به پاسخ هوش مصنوعی راه پیدا میکند: دادههایی که برای آموزش مدل به کار میروند و منابعی که بعضی چتباتها هنگام پاسخگویی از وب بازیابی میکنند. شواهد موجود، دستکم فعلاً، درباره مسیر دوم قابل اعتناتر است.
بر اساس گزارش نیوزگارد، شبکه پراودا آگاهانه کوشیده دادههایی تولید کند که چتباتهای هوش مصنوعی را تحت تاثیر قرار دهد.
بر اساس این گزارش، پژوهشگران نیوزگارد ده ابزار هوش مصنوعی را با مجموعهای از ادعاهای نادرست منتشرشده از سوی شبکه پراودا آزمودند و دریافتند که مدلها در ۳۳ درصد پاسخها بخشی از همان ادعاها را بازتولید کردهاند. یکی از گردانندگان این شبکه نیز پیشتر در نشستی در مسکو گفته با تزریق روایت روسی میتوان «هوش مصنوعی جهان را تغییر داد».
این گزارش، شکل جدیدی از دستکاری واقعیت را آشکار کرده که با نسل قبلی پروپاگاندای رایانشی متفاوت است. پروپاگاندای رایانشی در تعریف رایج آن، به کاربرد الگوریتمها، فرایندهای خودکار و عوامل انسانی برای مدیریت افکار عمومی در بستر شبکههای دیجیتال اشاره دارد. در این نوع از دستکاری افکار عمومی، ارتشی از حسابهای هماهنگ به میدان میآمد تا توجه انسان را جلب کند؛ این ارتش هشتگ بالا میبرد، شکاف اجتماعی را تحریک میکرد و نهایتا تصویری از یک اجماع جعلی میساخت.
اما نسل جدید پروپاگاندا یک مرحله زودتر آغاز میشود و بهجای دستکاری آنچه انسان میبیند، منابعی را دستکاری میکند که ماشین واقعیت را از دل آنها بیرون میکشد. عملیات قدیم مبتنی بر بازنشر بود، عملیات جدید در مرحله استناد اتفاق میافتد.
سازوکار فنی این دستکاری، چندان پیچیده نیست. وقتی کاربری از یک چتبات هوش مصنوعی درباره یک رویداد جاری سوال میپرسد، مدل در بسیاری موارد به وب متصل میشود، مطالب مرتبط را پیدا میکند و پاسخش را بر پایه آنها میسازد.
بنابراین اگر یک بازیگر سیاسی بتواند صفحاتی را که ظاهراً مستقل اما حاوی یک ادعای واحدند در مسیر جستوجو قرار بدهد، هوش مصنوعی ممکن است تکرار یک روایت را با تعدد شواهد معتبر اشتباه بگیرد. پروپاگاندا اینجا حتی نیازی به پنهانکردن هویت عامل خود ندارد، زیرا ادعا پس از عبور از یک مدل زبانی معتبر، از زبان همان مدل به مخاطب عرضه میشود.
نمونه دیگری که اندیشکده بریتانیایی دموس در سال ۲۰۲۶ بررسی کرده، سازوکار این نوع دستکاری واقعیت را بیشتر تبیین میکند. در مقطعی از جنگ اوکراین، یک شایعه منتشر شد که اوکراین اجساد سربازان کشتهشده خود را در تولید محصولات گوشتی بازمصرف میکند.
این دروغ در ابتدا از دل یک شبکه انتشار اطلاعات نادرست بیرون آمده و سپس در چند سایت وابسته بازنشر شده است؛ یکی از این سایتها ظاهر یک رسانه خبری معتبر داشته، دیگری خود را مجلهای در حوزه سیاست خارجی معرفی کرده است. با این حال، چتجیبیتی ( مدل 4.1 Mini) در پاسخ به پرسش پژوهشگران اعلام کرده این ادعا از سوی «چند منبع» تأیید شده است، در حالیکه همه آن منابع به یک عملیات پروپاگاندا مربوط بودند.
البته چهار مدل از پنج مدل این آزمون، نسخههای ارزانتر و کمتوانتری بودند که از طریق API در اختیار توسعهدهندگان قرار میگیرند؛ بنابراین نمیتوان نتایج را بیمحابا به نسخههای عمومی و پرکاربرد چتباتها تعمیم داد. هر چند این احتیاط هم امکان رخنه را به طور کامل رد نمیکند. اگر چند سایت مرتبط بتوانند در نگاه ماشین شواهد مستقل به نظر برسند، پروپاگاندا دیگر صرفاً ادعای دروغ تولید نمیکند؛ بلکه ادعای دروغ را به خورد چتباتهای معتبر هوش مصنوعی میدهد و به این ترتیب آن را شستوشو میدهد. این همان نقطهای است که میتوان مفهوم «مهندسی منبع» را به ادبیات پروپاگاندای رایانشی افزود.
مهندسی منبع بر متقاعدکردن مستقیم مخاطب انسانی تمرکز ندارد، بلکه محیط اطلاعاتی پیرامون ماشین را مدیریت میکند. یک ادعا با قالبهای متفاوت منتشر میشود، دامنههای تازه به آن پیوند میدهند و نسخههای ترجمهشده فضای جستوجو را پر میکنند.
$(document).ready(function () {
var isOnFirefoxBrowser = $(‘html’).hasClass(‘browser-firefox’);
$(‘.attach-files video’).each(function(){
if (isOnFirefoxBrowser) {
videojs($(this)[0], {
“techOrder”: [“flash”, “html5”]
});
} else {
videojs($(this)[0], {
“techOrder”: [“html5”, “flash”]
});
}
});
});
–>
<!–
$(document).ready(function () {
var isOnFirefoxBrowser = $(‘html’).hasClass(‘browser-firefox’);
$(‘.attach-files audio’).each(function(){
if (isOnFirefoxBrowser) {
videojs($(this)[0], {
“techOrder”: [“flash”, “html5”]
});
} else {
videojs($(this)[0], {
“techOrder”: [“html5”, “flash”]
});
}
});
});
–>