سهشنبه 26 فروردین 1404 – 20:10
تککرانچ مینویسد که انتشار گزارشهای ایمنی بهعنوان بخشی از استانداردهای آزمایشگاههای هوش مصنوعی شناخته میشود. این گزارشها معمولاً جزئیاتی درباره نوع آزمایشها و ارزیابیهایی ارائه میدهند که برای سنجش ایمنی مدلها انجام شده است. گزارشهای ایمنی ممکن است اطلاعاتی نامطلوب نیز فاش کنند؛ مانند اینکه مدلی ممکن است انسانها را فریب دهد یا قدرت متقاعدکنندگی فراوانی داشته باشد.
استیون آدلر، پژوهشگر سابق ایمنی در OpenAI، در گفتوگو با تککرانچ اظهار کرد که گزارشهای ایمنی بههیچعنوان الزامی قانونی ندارند و بهصورت داوطلبانه منتشر میشوند. باوجوداین، OpenAI تعهدات زیادی به دولتها درزمینه افزایش شفافیت در مدلهای خود داده است. پیشاز اجلاس ایمنی هوش مصنوعی انگلستان در سال ۲۰۲۳، این شرکت با انتشار بیانیهای کارتهای سیستم را بخشی مهم از رویکرد خود در قبال مسئولیتپذیری معرفی کرد. همچنین پیشاز اجلاس پاریس در سال ۲۰۲۵، شرکت OpenAI تاکید کرده بود که کارتهای سیستم اطلاعات مهمی درباره خطرهای مدلها ارائه میکنند.
برای مشاهده کامل مطب کلیک کنید