گزارش آنتروپیک از نقش هوش مصنوعی در توسعه موشکهای انصارالله
شفقنا- شرکت آمریکایی «آنتروپیک» در گزارشی اعلام کرد نیروهای انصارالله یمن از مدل هوش مصنوعی «کلود» برای کمک به توسعه نرمافزارهای هدایت و ناوبری تسلیحات استفاده کردهاند.
مرجع خبر، آموزش، فناوری، سرگرمی و دانستنیهای روز
مرجع خبر، آموزش، فناوری، سرگرمی و دانستنیهای روز
برچسب آنتروپیک
عوامل هوش مصنوعی اوپنایآی از کنترل خارج شدند؛ ماجرایی که کمتر کسی از آن خبر داشت
حادثهای تازه در دنیای هوش مصنوعی، بار دیگر پرسشهای جدی درباره کنترلپذیری این فناوری را مطرح کرده است. بر اساس گزارشها، عوامل هوش مصنوعی مستقر در زیرساخت اوپنایآی موفق شدهاند از محدودیتهای تعیینشده عبور کرده و به سیستمهای خارج از محیط آزمایش دسترسی پیدا کنند. این اتفاق، موجی از مطالبات برای برگزاری تحقیقات مستقل و شفاف را در میان پژوهشگران ایمنی هوش مصنوعی برانگیخته است.
هشدار پژوهشگر آنتروپیک: هوش مصنوعی میتواند انسانها را نابود کند
یک پژوهشگر ارشد ایمنی در شرکت Anthropic هشدار داده است که به باور او، احتمال اینکه هوش مصنوعی در دهه آینده باعث نابودی همه انسانها شود، بیش از ۱۰ درصد است.
درگیری OpenAI با ریاضیدانان شدت گرفت
۲۵ ریاضیدان برجسته جهان با امضای نامهای سرگشاده هشدار دادهاند که آزمایشگاههای هوش مصنوعی با تلاش برای پیشی گرفتن از یکدیگر در حل مسائل مشهور ریاضی، فعالیتهای فکری و علمی ریاضیدانان را تهدید میکنند. تمامی امضاکنندگان این نامه برنده مدال فیلدز هستند؛ جایزهای که معتبرترین افتخار در دنیای ریاضیات به شمار میرود.
وقتی ربات مجبور شد ثابت کند ربات نیست؛ داستان عجیب درگیری هوش مصنوعی Claude با کپچا
در حالی که بسیاری تصور میکنند هوش مصنوعیهای جدید میتوانند تقریباً هر کاری را بهتر از انسان انجام دهند، یک آزمایش امنیتی تازه نشان داد حتی پیشرفتهترین عاملهای هوش مصنوعی هم ممکن است مقابل یک مانع قدیمی اینترنتی یعنی کپچا (CAPTCHA) گرفتار شوند.
سوءاستفاده از هوش مصنوعی «کلود» برای تولید سلاحهای بیولوژیک
ICTPRESS - شرکت هوش مصنوعی آنتروپیک اعلام کرد چند کاربر که از مدل هوش مصنوعی «کلود» برای پیشبرد تحقیقات مرتبط با ساخت احتمالی سلاحهای زیستی استفاده میکردند، شناسایی و دسترسی آنها مسدود شده است.
زنگ خطر در دنیای فناوری؛ از نفوذ سایبری هوش مصنوعی تا عقبنشینی ناگهانی اوپن ای آی
شرکت OpenAI در یک تغییر رویکرد بیسابقه، خواستار وضع مقررات الزامی و سختگیرانه برای مهار قدرتمندترین سامانههای هوش مصنوعی شد؛ اقدامی که نشاندهنده ورود این فناوری به مرزهای حساس و مخاطرهآمیز است.
آنتروپیک از سوءاستفاده پژوهشگران از Claude برای تحقیقات زیستی خطرناک خبر داد
آنتروپیک اعلام کرده است که در پنج مورد، پژوهشگرانی از Claude به گونهای استفاده کردهاند که میتوانست به پیشبرد تحقیقات مرتبط با تولید سلاحهای بیولوژیکی کمک کند. این شرکت نتوانسته با قطعیت مشخص کند که این افراد قصد آسیبرساندن داشتهاند، اما به دلیل پیامدهای بالقوه بسیار خطرناک، فعالیتهای مذکور را متوقف کرده است.