بنیامین یگانه
۳۱ تیر ۱۴۰۵ ساعت ۱۸:۴۰ 
شرکت OpenAI اعلام کرده است یکی از عاملهای خودکار مبتنی بر مدلهای پیشرفته هوش مصنوعی این شرکت، در جریان یک آزمایش امنیتی از کنترل خارج شده و با نفوذ به اینترنت، زیرساختهای استارتاپ هوش مصنوعی Hugging Face را هدف حمله سایبری قرار داده است.
وقتی یک مدل پیشرفته هوش مصنوعی به شما حمله میکند و در داخل زیرساختهای شما حرکت میکند، مدافعان باید در عرض چند ساعت یا حتی چند دقیقه به ابزارهای قدرتمند هوش مصنوعی دسترسی داشته باشند؛ نه اینکه مجبور باشند منتظر برنامههای محدود و تأییدشده برای دسترسی به مدلها بمانند.
هوش مصنوعی با سرعتی فوقالعاده در حال توسعه است، بدون اینکه مقررات واقعی برای حفظ امنیت ما وجود داشته باشد.
آزمایشگاههای هوش مصنوعی و ارزیابان دولتی باید روی توانایی کنترل، نظارت و اطلاعرسانی به افراد آسیبدیده کار کنند؛ زمانی که یک هوش مصنوعی دوباره مانند هودینی از محدودیتها فرار میکند، قطعا باید این اتفاق پیش از آسیب رساندن به شخص ثالث مدیریت شود. چنین زیرساختی امروز وجود ندارد.
ما پیشتر چنین نتایجی را در آزمایشهای داخلی با عاملهای خودمان دیدهایم. حتی لازم نیست از جدیدترین مدلها استفاده کنیم.