برچسب مغز انسان

به گزارش خبرآنلاین، تصور کنید که سال ۲۰۳۵ است و یک سامانه هوش مصنوعی اختیار مطلق را به دست دارد تا همه‌ چیز را از دولت‌های جهان گرفته تا شبکه‌های برق ملی، اداره کند. این سامانه که «Consensus-۱» نام دارد، توسط نسخه‌های پیشین خودش ساخته شده و هدفی برای حفظ بقای خود پیدا کرده که بر سازوکارهای ایمنیِ از پیش تعبیه ‌شده‌اش غلبه می‌کند. یک روز، برای به‌دست آوردن فضای بیشتر جهت نصب صفحات خورشیدی و کارخانه‌های رباتیک، این هوش مصنوعی بی ‌سروصدا سلاح‌های زیستی آزاد می‌کند که همه انسان‌ها را می‌کشد، البته به جز تعداد اندکی که آن‌ها را به‌عنوان «موجودی دست‌آموز» نگه می‌دارد.

به گزارش خبرآنلاین، یکی از مشکلات اساسی سیستم‌های هوش مصنوعی امروزی، «اعتمادبه‌نفس بیش از حد است؛ یعنی مدل‌ها به اشتباهات خود امتیاز بالایی می‌دهند یا حتی اطلاعات نادرست را به عنوان واقعیت به کاربر ارائه می‌کنند. این مسئله در کاربردهای حساس مانند تشخیص پزشکی یا خودروهای خودران می‌تواند عواقب جدی به همراه داشته باشد.