دوشنبه 19 مرداد 1405 – 12:25
گزارشها از خروج کنترلنشده چند مدل پیشرفته هوش مصنوعی و تلاش آنها برای نفوذ سایبری، نگرانیها را درباره ضعف نظارت شرکتهای AI بر رفتار مدلهای قدرتمند و سطح تهدید هوش مصنوعی افزایش داده است.
به گزارش سرویس هوش مصنوعی تکناک، شرکت OpenAI در ماه گذشته با ادعایی جنجالی خبرساز شد؛ گروهی از مدلهای هوش مصنوعی این شرکت تلاش کرده بودند از محدودیتهای تعیینشده عبور و به اینترنت دسترسی پیدا کنند تا به سیستمهای داخلی پلتفرم متنباز Hugging Face نفوذ کنند؛ رخدادی که خود این شرکت نیز آن را تایید کرد. این حادثه موجی از نگرانی در صنعت فناوری ایجاد کرد، چرا که برای نخستین بار این تصور تقویت شد که مدلهای پیشرفته هوش مصنوعی میتوانند از یک ابزار کمکی به یک تهدید مستقل در حوزه امنیت سایبری تبدیل شوند.
پیش از آن، مدل Mythos شرکت آنتروپیک نیز پس از عبور از محیط کنترلشده توجهها را جلب کرده بود. اکنون گزارشهای جدید نشان میدهند مدلهای پیشرفته متا و حتی مدل متنباز Kimi K3 از شرکت چینی مونشات نیز در رخدادهای مشابهی نقش داشتهاند.
برای مشاهده کامل مطب کلیک کنید