یکشنبه 9 آذر 1404 – 10:05
شرکت مایکروسافت با وجود هشدارهای امنیتی، عامل‌های هوش مصنوعی را در ویندوز ۱۱ گسترش داده است.
به گزارش سرویس فناوری تک‌ناک، این رویکرد که با دسترسی گسترده عامل‌های هوش مصنوعی به فایل‌ها همراه است، نگرانی‌های جدی برای حریم خصوصی ایجاد کرده است.
بخوانید: خداحافظ کوپایلت؛ تعامل صوتی با هوش مصنوعی در ویندوز بدون دخالت دست می‌شود
در اسناد رسمی شرکت آمده است که عامل‌های هوش مصنوعی «ممکن است دچار خطا، برداشت اشتباه یا خروجی‌های غیرمنتظره شوند». یکی از خطرات مهمی که شرکت به آن اشاره می‌کند حمله Cross Prompt Injection است. در این وضعیت، عامل هوش مصنوعی به‌وسیله محتوای مخرب مخفی‌شده در رابط کاربری، اسناد یا برنامه‌ها فریب می‌خورد و دستورالعمل‌های اولیه خود را کنار می‌گذارد. این حمله می‌تواند عامل را وادار کند تا فایل‌های حساس را کپی نماید، داده‌ها را افشا کند یا عملیات ناخواسته انجام دهد.
برای مشاهده کامل مطب کلیک کنید