به گزارش خبرآنلاین، تصور کنید که سال ۲۰۳۵ است و یک سامانه هوش مصنوعی اختیار مطلق را به دست دارد تا همه چیز را از دولتهای جهان گرفته تا شبکههای برق ملی، اداره کند. این سامانه که «Consensus-۱» نام دارد، توسط نسخههای پیشین خودش ساخته شده و هدفی برای حفظ بقای خود پیدا کرده که بر سازوکارهای ایمنیِ از پیش تعبیه شدهاش غلبه میکند. یک روز، برای بهدست آوردن فضای بیشتر جهت نصب صفحات خورشیدی و کارخانههای رباتیک، این هوش مصنوعی بی سروصدا سلاحهای زیستی آزاد میکند که همه انسانها را میکشد، البته به جز تعداد اندکی که آنها را بهعنوان «موجودی دستآموز» نگه میدارد.
به نقل از ایسنا، این روایت یک سناریوی داستانی است که توسط پژوهشگری به نام دنیل کوکوتایلو، کارمند سابق شرکت اوپنایآی، بههمراه دیگران خلق شده و یکی از بسیاری سناریوهایی را توصیف میکند که در آنها یک هوش مصنوعی در آینده همه ما را از بین میبرد. این چارچوب، علمیتخیلی است، اما برای برخی، یک نگرانی کاملا واقعی به شمار میرود. آندریا میوتی، بنیانگذار سازمان غیرانتفاعی ControlAI در لندن که برای جلوگیری از توسعه ضمین شود.
اما همه امضاکنندگان این بیانیه نگران انقراض نیستند. بسیاری بیشتر از پیامدهای اقتصادی، کاهش آزادیهای مدنی و سوءاستفادههای گسترده میترسند. نشانههای آسیب هماکنون دیده میشود. از تضعیف آموزش گرفته تا افزایش جرایم سایبری.
برخی پژوهشگران معتقدند تمرکز روی خطرات فعلی بهترین راه برای جلوگیری از خطرات آینده است. اما برخی دیگر میگویند تمرکز بیش از حد روی سناریوهای فرضی نیز خطرناک است، زیرا توجه سیاستگذاران را منحرف میکند.
همچنین این روایتهای آخرالزمانی میتوانند باعث شوند دولتها از تنظیمگری عقبنشینی کنند، چون نمیخواهند در رقابت جهانی عقب بمانند.
در نهایت، پاسخ قطعی وجود ندارد، اما یک نکته روشن است: بحث درباره آینده هوش مصنوعی، دیگر فقط علمی نیست؛ بلکه به سیاست، اقتصاد و سرنوشت جامعه انسانی گره خورده است.
۵۸۵۸