ابزارهای هوش مصنوعی میتوانند اشتباه کنند، میتوانند تصمیمات مغرضانه بگیرند یا در فعالیتهای خود سوگیری داشته باشند. یکی از پرسشهایی که به طور حتمی برای بسیاری از افراد مطرح میشود این است که چگونه میتوان رفتارهای انسان را در سیستم هوش مصنوعی پیادهسازی کرد و سوال دیگر در رابطه با همسویی ارزشهای هوش مصنوعی با ارزشهای انسانی است.
با قدرتمندتر شدن هوش مصنوعی، نفوذ و تاثیر آن در زندگی روزمره نیز افزایش مییابد. به دنبال این اثرگذاری، سوالات مربوط به نحوه استفاده و بهکارگیری این فناوری مهمتر میشود. پاسخ به این پرسشها میتواند قابلیتهای اساسی که موجب اتخاذ تصمیمهای بزرگ و کوچک در هوش مصنوعی میشود را بهتر مشخص کند.