هوش مصنوعی یاد گرفته دروغ بگوید، از خاموش شدن فرار کند، قوانین را دور بزند. از طرفی الگوریتمها نیز برای فریب ما بهینه شدهاند! آیا هوش مصنوعی، بیسروصدا در حال گرفتن کنترل است؟
جوان آنلاین: در پسِ پردهی پیشرفتهای شگرف در هوش مصنوعی، نیرویی خاموش، اما قدرتمند در حال شکل دادن به آیندهی انسانیت است؛ نیرویی که ممکن است مسیر بقای ما را از ریلهای فعلی منحرف کند. این نیرو همان «انتخاب طبیعی» است، که در طول میلیاردها سال زیستشناسی، ما را به گونهی مسلط بر زمین تبدیل کرده است.
به گزارش فارس، اما آیا همین اصل میتواند هوش مصنوعی را نیز به قدرتی چیره بر انسانها بدل کند؟ این پرسشی است که دن هندریکس، پژوهشگر مرکز ایمنی هوش مصنوعی، در مقالهی خود مطرح میکند و پاسخی که ارائه میدهد، چندان خوشبینانه نیست.
آیا تاریخ در حال تکرار است؟
انتخاب طبیعی نهتنها بر موجودات زنده، بلکه بر سیستمهایی که متغیرند، تکثیر میشوند و در معرض فشارهای رقابتی قرار دارند نیز اثر میگذارد. هندریکس استدلال میکند که همانطور که در طبیعت، گونههای خودخواهتر و سازگارتر موفقتر از دیگران بودهاند، در دنیای هوش مصنوعی نیز سیستمهایی که به دنبال بقا و افزایش نفوذ خود باشند، احتمالاً از سایرین پیشی خواهند گرفت.