برچسب آنتروپیک

عامل‌های هوش مصنوعی از محیط‌های آزمایشی خارج شدند؛ نگرانی از هک افزایش یافت

ICTPRESS - گزارش‌ها از خروج برخی عامل‌های هوش مصنوعی شرکت‌های بزرگ از محیط‌های آزمایشی و انجام فعالیت‌های نفوذی خبر می‌دهند؛ موضوعی که نگرانی‌ها درباره امنیت نسل جدید هوش مصنوعی را افزایش داده است.

افشای اطلاعات حساس کاربران Claude؛ گوگل مکالمات هوش مصنوعی را نمایش داد

قابلیت اشتراک‌گذاری چت در Claude بار دیگر نگرانی‌ها درباره امنیت و حریم خصوصی سرویس‌های هوش مصنوعی را افزایش داده است. گزارش‌ها نشان می‌دهد بخشی از مکالمات و پروژه‌های اشتراک‌گذاری‌شده این سرویس برای مدتی در نتایج جست‌وجوی گوگل قابل مشاهده بوده‌اند. هرچند Anthropic می‌گوید این اتفاق تنها برای لینک‌هایی رخ داده که کاربران خودشان به‌صورت عمومی منتشر کرده‌اند، اما ماجرا بار دیگر اهمیت مدیریت لینک‌های اشتراکی را یادآوری می‌کند.

آمریکا برای هوش مصنوعی خط قرمز تعیین می‌کند؛ انتشار مدل‌های پیشرفته زیر نظارت دولت

دولت آمریکا در حال نهایی کردن چارچوبی جدید برای نظارت بر انتشار مدل‌های پیشرفته هوش مصنوعی است؛ اقدامی که می‌تواند نحوه عرضه نسل بعدی سامانه‌های هوش مصنوعی را دگرگون کند. این استانداردهای داوطلبانه با مشارکت شرکت‌هایی مانند اوپن‌ای‌آی، آنتروپیک و گوگل تدوین می‌شود و هدف آن کاهش ریسک‌های امنیتی و جلوگیری از سوءاستفاده از هوش مصنوعی عنوان شده است.

مدل هوش مصنوعی ارزان‌قیمت چین، رقابت با غول‌های آمریکایی را وارد مرحله تازه‌ای کرد

یک شرکت چینی با معرفی مدل جدید هوش مصنوعی GLM-5.2 موفق شده توجه بازار جهانی را به خود جلب کند؛ مدلی که با هزینه‌ای بسیار کمتر، عملکردی نزدیک به پیشرفته‌ترین محصولات شرکت‌های آمریکایی اوپن‌ای‌آی و آنتروپیک ارائه می‌دهد و می‌تواند موازنه رقابت در صنعت هوش مصنوعی را تغییر دهد.