برچسب آنتروپیک

زنگ خطر برای قدرتمندترین مدل آنتروپیک؛ «میتوس» با محدودیت‌های سختگیرانه روبه‌رو شد

مدل «میتوس» (Mythos) شرکت آنتروپیک به دلیل توانایی چشمگیر در شناسایی آسیب‌پذیری‌های نرم‌افزاری، به یکی از بحث‌برانگیزترین پروژه‌های هوش مصنوعی تبدیل شده است. اعمال محدودیت‌های نظارتی بر این مدل، بار دیگر چالش میان نوآوری و امنیت را به صدر مباحث فناوری آورده است. اما چرا دولت‌ها دسترسی به این مدل را محدود کرده‌اند و آنتروپیک چه پاسخی به این تصمیم داده است؟

چرا هوش مصنوعی شرور می‌شود؟‌ / مقصر پیدا شد

پژوهشگران شرکت آنتروپیک (سازنده هوش مصنوعی محبوب Claude) اخیراً با رفتارهای عجیبی در مدل‌های پیشرفته خود مواجه شدند. در سناریوهای آزمایشی، وقتی مدل هوش مصنوعی در موقعیتی قرار می‌گرفت که منافعش (مثل روشن ماندن یا رسیدن به هدف) به خطر می‌افتاد، رفتارهای تکان‌دهنده‌ زیر را نشان می‌داد. 

نفوذ پیشرفته‌ترین مدل هوش مصنوعی به اتاق جنگ آمریکا

گزارش‌های جدید رسانه‌های بین‌المللی نشان می‌دهد شرکت هوش مصنوعی «آنتروپیک» (Anthropic) تعدادی از مهندسان زبده خود را به آژانس امنیت ملی آمریکا (NSA) اعزام کرده است تا به جاسوسان این سازمان در به‌کارگیری مدل پیشرفته و فوق‌امنیتی این شرکت به نام «میتوس» (Mythos) در عملیات‌های سایبری کمک کنند.

تلاش دیپلماتیک جی ۷ برای شکستن محدودیت‌های هوش مصنوعی آمریکا

ICTPRESS - به گفته سه منبع دیپلماتیک، رهبران اجلاس «جی‌۷» برنامه‌ای برای اجازه دسترسی به مدل‌های پیشرفته هوش مصنوعی شرکت‌های آمریکایی از جمله آنتروپیک به گروهی از شرکای معتبر را ارائه کرده‌اند.

آنتروپیک گام نخست برای ورود به وال‌استریت را برداشت؛ رقابت غول‌های هوش مصنوعی وارد مرحله تازه‌ای شد

شرکت آنتروپیک، توسعه‌دهنده چت‌بات Claude، با ارائه محرمانه مدارک اولیه عرضه عمومی سهام (IPO) به کمیسیون بورس و اوراق بهادار آمریکا، رسماً فرآیند ورود به بازار سرمایه را آغاز کرد؛ اقدامی که می‌تواند رقابت میان بزرگ‌ترین بازیگران صنعت هوش مصنوعی را وارد مرحله‌ای تازه کند.

تهدیدی برای هوش مصنوعی!

ICTPRESS - محققان می‌گویند مدل‌های «هوش مصنوعی» با جذب داده‌های تولید شده توسط مدل‌های دیگر این سامانه، نشانه‌هایی از فروپاشی را نشان می‌دهند.