به گزارش خبرگزاری خبرآنلاین و براساس گزارش دیجیاتو، مدل جدید هوش مصنوعی شرکت آنتروپیک، یعنی Mythos، با پاسخها و تواناییهای عجیب خود موجب نگرانی شدید «اندرو گاربارینو»، نماینده جمهوریخواه کمیته امنیت داخلی مجلس نمایندگان آمریکا شده است.
گاربارینو در جریان گفتگو با برنامه «Fly Out Day» اعلام کرده که شرکت آنتروپیک در جریان یک دمو و شبیهسازی به اعضای کنگره نشان داده است که این مدل هوش مصنوعی جدید چگونه میتواند به سیستمهای بانکی نفوذ کند. به گفته گاربارینو، آنتروپیک از این مدل خواسته تا در یک بانک آسیبپذیری پیدا کرده و حسابها را خالی کند و مدل نیز دقیقاً همین کار را انجام داده است. هوش مصنوعی Mythos سپس توانست همین نقایص امنیتی را شناسایی و آنها را برطرف کند.
خطرات مدل هوش مصنوعی Mythos
این دموها از سوی آنتروپیک و دیگر شرکتهای فعال در حوزه هوش مصنوعی، نیاز مبرم دولت به اقدام سریع برای مهار تهدیدهای ناشی از این فناوری را برجسته کردهاند. بااینحال، گاربارینو اعتراف کرده که کنگره برای حل این مسئله کار بسیار سختی دارد. او اشاره کرده که مشکل اصلی این استطرح پیشنهادی «جی اوبرنولتی» و «لوری تراهان» برای ایجاد چارچوب فدرال هوش مصنوعی تقدیر کرد، اما گفت به واکنش سریع کنگره امیدی ندارد و حدود ۹۵ درصد از همکارانش اصلاً متوجه نیستند چه اتفاقی درحال رخ دادن است.
کاخ سفید درحالحاضر دسترسی عمومی به آخرین مدل آنتروپیک را مسدود کرده و گزارشها حاکی از آن است که از شرکت OpenAI نیز خواسته شده تا عرضه مدل بعدی خود را به تعویق بیندازد.
به دلیل قابلیتهای ایجنتمحور، این مدلها میتوانند بدون نیاز به فرمان انسان اقدام کنند؛ برای مثال میتوانند یک خط لوله گاز را قطع کنند یا میزان کلر موجود در ذخایر آب شهری را افزایش دهند. گاربارینو تأکید کرده که در این مدلها نهتنها توانایی یادگیری نحوه انجام کار وجود دارد، بلکه میتوان به آنها دستور داد تا آن کار را برای شما انجام دهند.
۲۲۷۲۲۷