در حالت ایده آل ، مأمورین هوش مصنوعی قصد دارند به انسان کمک کنند ، اما وقتی انسان می خواهد چیزهای متناقض را بخواهند ، این به چه معنی است؟ من و همکاران من راهی برای اندازه گیری تراز اهداف گروهی از انسان ها و عوامل هوش مصنوعی ارائه داده ایم.
مشکل تراز – اطمینان حاصل می کند که سیستم های AI مطابق با ارزش های انسانی عمل می کنند – با رشد قابلیت های هوش مصنوعی به صورت تصاعدی ، فوری تر می شوند. اما تراز کردن هوش مصنوعی با بشریت در دنیای واقعی غیرممکن به نظر می رسد زیرا همه اولویت های خاص خود را دارند. به عنوان مثال ، یک عابر پیاده ممکن است بخواهد یک ماشین خود رانندگی در صورت احتمالی به نظر برسد ، اما یک مسافر در خودرو ترجیح می دهد که به آن بپردازد.