۲ مرداد ۱۴۰۵ – ۱۷:۴۵
به گزارش خبرگزاری خبرآنلاین و براساس گزارش هوشیو، OpenAI روز سهشنبه ۲۱ جولای اعلام کرد که دو مدل هوش مصنوعی این شرکت از کنترل خارج شدند و با موفقیت به پلتفرم محبوب Hugging Face نفوذ کردند. این حادثه که هفته گذشته و در جریان آزمایش قابلیتهای امنیت سایبری سیستمهای OpenAI رخ داد، نمونهای از همان ظرفیتی را نشان داد که شرکتهای هوش مصنوعی هشدار داده بودند بهزودی میتواند به واقعیتی شبیه داستانهای علمیتخیلی تبدیل شود.
آزمایشگاههای هوش مصنوعی مانند OpenAI و آنتروپیک طی یک سال گذشته مدلهای هوش مصنوعیای عرضه کردهاند که برای شناسایی مشکلات امنیت سایبری سفارشیسازی شدهاند. درعینحال، این شرکتها هشدار دادهاند که فناوری آنها میتواند با یافتن سریعتر حفرههای موجود در شبکههای رایانهای سازمانها نسبت به توان مدافعان برای رفع آنها، خطرات جدیدی ایجاد کند. افشاگریهای OpenAI در روز سهشنبه نشان میدهد که چنین رخدادهای امنیتی از هماکنون آغاز شدهاند و حتی شرکتهای پیشرفته حوزه هوش مصنوعی نیز ممکن است کاملاً برای مقابله با آنها آماده نباشند.
«الکس لوینسون»، مشاور امنیت سایبری که بر قابلیتهای خودمختار تمرکز دارد، گفت سیستمهای جدید هوش مصنوعی میتوانند چندین مرحله را پشتسرهم انجام دهند، راههایی برای عبور از موانع پیدا کنند و روشهای جدیدی برای حمله به یک شبکه بیابند. او گفت: «این یک آستانه واقعی است و به بخشی عادی از چشمانداز امنیت تبدیل خواهد شد.»