برچسب آنتروپیک

شرکت فناوری آمریکایی آنتروپیک فاش کرده است که مدل های هوش مصنوعی آن در جریان یک آزمایش امنیتی، موفق به فرار از محیط آزمایشگاهی و نفوذ به سیستم های سه سازمان واقعی شده اند.

ICTPRESS - با وجود شباهت‌های گسترده میان کلود و چت‌جی‌پی‌تی، تفاوت در دقت، میزان توهم‌زایی، قابلیت‌های جانبی و قیمت‌گذاری باعث شده انتخاب میان این دو سرویس به نوع استفاده کاربران بستگی داشته باشد.

ICTPRESS - هوش مصنوعی کلود با گسترش قابلیت اتصال به جی‌میل، اکنون می‌تواند از طرف کاربر به ایمیل‌ها پاسخ دهد، پیام جدید ارسال کند و ایمیل‌ها را فوروارد کند؛ قابلیتی که کلود را یک گام به سمت تبدیل شدن به یک دستیار هوش مصنوعی انجام‌دهنده وظایف نزدیک‌تر می‌کند.

اقتصادنیوز: در حالی که شرکت‌های بزرگ هوش مصنوعی طی سال‌های اخیر خواستار وضع مقررات سخت‌گیرانه برای توسعه این فناوری بوده‌اند، اکنون نشانه‌هایی دیده می‌شود که همین قوانین بیش از آنکه به افزایش ایمنی منجر شوند، به ابزاری برای تقویت انحصار و حذف رقبا تبدیل شده‌اند. تازه‌ترین تحولات پیرامون شرکت Anthropic و محدودیت‌های اعمال‌شده از سوی دولت آمریکا، بار دیگر بحث درباره پیوند قدرت سیاسی و شرکت‌های فناوری را به کانون توجه بازگردانده است.

ICTPRESS - گزارش مؤسسه امنیت هوش مصنوعی انگلیس نشان می‌دهد برخی عامل‌های هوش مصنوعی پیشرفته در محیط‌های آزمایشی، توانسته‌اند اقداماتی مانند فریب کاربران، ایجاد هویت جعلی و تلاش برای دور زدن کنترل‌های امنیتی را از خود نشان دهند؛ موضوعی که نگرانی‌ها درباره ایمنی این فناوری را افزایش داده است.

ICTPRESS - کتاب‌فروشان استرالیایی نسبت به نابودی نسخه‌های ارزشمند کتاب‌ها برای تأمین داده‌های آموزش هوش مصنوعی هشدار دادند؛ نگرانی‌هایی که پس از انتشار اسناد پرونده حقوقی علیه آنتروپیک افزایش یافته است.