گزارشی از نشریه فناوری MIT میگوید یک سری تحقیقات جدید سعی دارند هسته پنهان هوش مصنوعی را شفافتر کنند. در حال حاضر اطلاعات کمی درمورد روند و فرایندی که هوش مصنوعی برای رسیده به پاسخ یک پرامپت طی میکند وجود دارد. این تحقیقات که یکی از مهمترین نمونههای آن مربوط به گوگل دیپمایند، واحد هوش مصنوعی گوگل، است سعی دارند تا فرایند رسیدن به پاسخ را شفافتر کنند. نتایج این تحقیقات میتواند به بهبود امنیت، افزایش کنترل روی هوش مصنوعی و اعتبار بیشتر این سیستمها کمک کند.
به گزارش پیوست، پژوهشگران همچنین در این تحقیقات دلیل یک سری از اشتباهات عجیب در ابزارهای هوش مصنوعی را متوجه میشوند و امیدوارند که در آینده بتوانند با تشخیص ریشه اصلی یک سری سوالات ممنوعه، مثل نحوه ساخت بمب، به حذف کامل آنها کمک کنند تا در نتیجه ترفندهای جیلبریک دیگر برای دور زدن محدودیتها کارساز نباشد.