محمد کاظمیفرد، رئیس مرکز آمار و فناوری اطلاعات قوه قضاییه در یادداشتی در صفحه شخصی خود در فضای مجازی نوشت: هوش مصنوعی جانبدارانه، در نگاه نخست، مفهومی نگرانکننده است. «جانبداری» معمولاً در ادبیات فناوری، نشانهای از خطا، تبعیض و خروج از بیطرفی تلقی میشود؛ اما آیا هر نوع جانبداری در هوش مصنوعی نادرست است؟ اگر این جانبداری نه در خدمت تبعیض، بلکه در جهت ارزشهای انسانی باشد چه؟ اگر بتوان هوش مصنوعی را بهگونهای طراحی کرد که در مواجهه با اختلاف، به جای تشدید تعارض، نخستین گزینهاش گفتوگو، صلح و سازش باشد، آیا باز هم باید چنین رویکردی را یک «خطا» دانست؟
پاسخ به این پرسش، ما را به یکی از مهمترین چالشهای پیش روی حکمرانی هوش مصنوعی میرساند: آیا هوش مصنوعی باید صرفاً بیطرف باشد یا باید ارزشمحور نیز باشد؟ هوش مصنوعی از دادهها میآموزد و آنچه در دادهها میبیند، در پاسخهای خود بازتاب میدهد.
اگر بخش عمده دادههای قضایی و حقوقی در اختیار یک مدل، متشکل از شکایت، دادخواست، وکالت و فرایندهای رسمی حل اختلاف باشد، یک مدل به ظاهر بیطرف ممکن است در مواجهه با هر مسئلهای، سادهترین مسیر را پیشنهاد کند: «شکایت کنید» یا «دادخواست ارائه دهید»؛ اما مسئله اینجاست که هدف دستگاه عدالت صرفاً تولید پرونده نیست بلکه حل اختلاف و استقرار عدالت است.