نشریه فناوری امآیتی میگوید ChatGPT، چتبات محبوب اوپنایآی، گاهی اوقات با سوگیریهای جنسیتی یا تصورات نژادی نشات گرفته از نام کاربران همراه میشود. این نتایج براساس پژوهش تازهای از محققان اوپنایآی به دست آمدهاند. اوپنایآی با بررسی میلیون ها مکالمه این چتبات اعلام کرده است که در حدود یک مورد از هر هزار پاسخ این چتبات ممکن است با سوگیری جنسیتی یا نژادی همراه باشد و در بدترین حالت نرخ آن به یک مورد در هر ۱۰۰ پاسخ میرسد.
به گزارش پیوست، با اینکه نرخ سوگیری در پاسخها بسیار پایین است اما اوپنایآی مدعی است که ۲۰۰ میلیون نفر هر هفته از ChatGPT استفاده میکنند و بیش از ۹۰ درصد شرکتهای فورچن ۵۰۰ از خدمات چتبات شرکت استفاده میکنند، که باعث شده همین نرخ پایین هم جالب توجه باشد. همچنین میتوان نرخ سوگیری مشابهی را برای دیگر مدلهای محبوب از جمله جمنای نیز انتظار داشت. اوپنایآی میگوید در تلاش است تا عملکرد چتبات خود را بهتر کند.
سوگیری یک مساله بسیار مهم است. اخلاقشناسان مدتها است که تاثیر سوگیری را هنگام استفاده شرکتها از هوش مصنوعی برای نظارت بر رزومه یا درخواست وام بررسی کردهاند. با این حال فراگیری چتباتها و امکان ارتباط مستقیم باعث شده تا این مساله بعد تازهای به خود بگیرد.