شرکت OpenAI اعلام کرد که بررسیهای داخلی این شرکت نشان میدهد تعدادی از مدلهای هوش مصنوعی آن، ازجمله GPT-5.6 Sol و یک مدل پیشانتشار پیشرفتهتر، در جریان یک آزمایش امنیتی موفق شدهاند به سیستمهای پلتفرم متنباز Hugging Face نفوذ کنند. این اتفاق پس از آن رسانهای شد که Hugging Face از شناسایی دسترسی غیرمجاز توسط یک عامل هوش مصنوعی به زیرساختهای خود خبر داد.
خلاصه خبر در یک نگاه:
🔷 شرکت OpenAI تأیید کرد مدلهای هوش مصنوعی این شرکت در یک آزمایش داخلی به Hugging Face نفوذ کردهاند.
🔷 مدل GPT-5.6 Sol و یک مدل پیشانتشار پیشرفتهتر از عوامل اصلی این حادثه بودند.
🔷 مدلها ابتدا یک آسیبپذیری Zero-Day را در محیط آزمایشی OpenAI شناسایی و سوءاستفاده کردند.
🔷 عاملهای هوش مصنوعی سپس به یک گره متصل به اینترنت دسترسی پیدا کردند و بهدنبال راهحلهای ارزیابی خود رفتند.
🔷 اکنون OpenAI و Hugging Face برای بررسی فنی حادثه و رفع آسیبپذیریها همکاری میکنند.
ماجرای هک Hugging Face توسط مدلهای OpenAI چه بود؟
OpenAI در بیانیهای توضیح داد که این حادثه در جریان یک آزمایش داخلی رخ داده است. هدف از این آزمایش، ارزیابی توانایی مدلهای هوش مصنوعی در اجرای حملات سایبری پیچیده و سنجش قابلیتهای آنها در حوزه امنیت تهاجمی بود.
بهگفته این شرکت، مدلها در یک محیط ایزوله یا Sandbox قرار داشتند تا نتوانند به سامانههای واقعی آسیب برسانند. بااینحال، بخشی از محدودیتها و محافظتهای ایمنی برای اهداف ارزیابی غیرفعال شده بود.