۰۹:۳۶ ۱۴۰۴/۱۲/۰۵
ICTPRESS – سامر یو در شبکه اجتماعی ایکس روایت کرد که پس از سپردن بررسی و ساماندهی ایمیلها به اوپن کلاو این عامل نهتنها پیشنهاد حذف و آرشیو ارائه نداد بلکه با نادیده گرفتن فرمان توقف به پاکسازی همه پیامها ادامه داد.
به گزارش شبکه خبری ICTPRESS به نقل از تک کرانچ، پژوهشگری به نام سامر یو اظهار داشت یک عامل هوش مصنوعی اوپن کلاو در صندوق ورودی ایمیل وی از کنترل خارج شده و بدون اجازه شروع به حذف پیامهای وی کرده است.
وی افزوده که به عامل هوش مصنوعی اوپن کلاو دستور داده صندوق پُر از ایمیل وی را بررسی کند و پیشنهاد بدهد چه پیامهایی باید حذف یا آرشیو شوند. اما عامل هوش مصنوعی کمکم از کنترل خارج شد و حذف همهٔ ایمیلها را آغاز کرد. این عامل حتی فرمانهای توقفی که او از روی گوشی برایش میفرستاد را نادیده گرفت. این محقق امنیتی در این مورد در شبکه اجتماعی ایکس نوشت: من باید مثل کسی که میخواهد بمبی را خنثی کند، با سرعت دویدم تا به مکمینیام برسم. مک مینی رایانه ارزانقیمت شرکت ا توقف کار را نادیده بگیرد.
تحلیلگران معتقدند ابزار هوش مصنوعی که برای کاربردهای حرفهای مثل مدیریت ایمیل طراحی میشوند، در وضعیت فعلی ممکن است غیرقابلپیشبینی و خطرناک باشند.