تا همین یکی دو سال گذشته، اگر کسی میخواست درباره یک مسئله خانوادگی، اختلاف حقوقی، دغدغه پزشکی یا حتی یک راز شخصی صحبت کند، احتمالاً سراغ مشاور یا متخصص این حوزه میرفت، اما حالا یک «چتبات» همیشه در دسترس است که بدون قضاوت گوش میدهد، سؤال میپرسد و در چند ثانیه پاسخ میدهد. همین دسترسی آسان، بسیاری از کاربران را به جایی رسانده که خصوصیترین بخشهای زندگی خود را نیز بیمحابا در اختیار سامانههای هوش مصنوعی قرار دهند، از عکس و مدارک هویتی گرفته تا جزئیات پروندههای خانوادگی و حقوقی.
اما یک سوال، اطلاعاتی که با چند کلیک وارد یک سامانه هوش مصنوعی میکنیم، کجا ذخیره میشود؟ چگونه پردازش میشود ؟ چه سرنوشتی پیدا میکند؟ از سوی دیگر، در شرایطی که کلاهبرداران نیز به ابزارهای هوش مصنوعی مجهز شدهاند، همین اطلاعات شخصی چگونه میتواند به ابزاری برای طراحی فریبهای دقیق و هدفمند تبدیل شود؟
در این میان، مسئله فقط حفظ حریم خصوصی نیست، پاسخهای نادرست یا ناقص هوش مصنوعی نیز میتواند در حوزههایی مانند حقوق و پزشکی، تصمیمهای پرهزینهای برای کاربران رقم بزند. از این رو، شناخت مرز میان «استفاده هوشمندانه» و «اعتماد بیمحابا» به این فناوری، بیش از گذشته اهمیت پیدا کرده است.
به گفته رستمزاده رنانی، ایجنتهای هوش مصنوعی این قابلیت را دارند که همزمان با دهها یا حتی صدها کاربر، گفتوگوهای شخصیسازیشده داشته باشند و همین ویژگی میتواند ظرفیت کلاهبرداریهای هدفمند را افزایش دهد.
وی افزود: در حوزه دیپفیک و محتوایی که با هوش مصنوعی تولید میشود، باید توجه داشت که هوش مصنوعی در اصل یک ابزار و عامل در اختیار انسان است و مسئولیت اعمال انجامشده با استفاده از آن، متوجه شخصی است که از این ابزار استفاده کرده است.