قابلیت جدید هوش مصنوعی «کلود» گفت‌وگوی توهین‌آمیز را ممنوع کرد!

ICTPRESS – «آنتروپیک» می‌گوید برخی از مدل‌های هوش مصنوعی «کلود» اکنون می‌توانند به گفت‌وگوهای مضر یا توهین‌آمیز پایان دهند.

به گزارش شبکه خبری ICTPRESS به نقل از تک کرانچ، شرکت «آنتروپیک» از قابلیت‌ جدیدی رونمایی کرده است که به برخی از جدیدترین و بزرگترین مدل‌های آن امکان می‌دهد تا گفت‌وگوها را در موارد نادر و شدید از تعاملات مداوم مضر یا توهین‌آمیز با کاربر به پایان برساند. نکته جالب توجه این است که آنتروپیک می‌گوید این کار را نه برای محافظت از کاربر انسان، بلکه برای محافظت از مدل هوش مصنوعی انجام می‌دهد.

آنتروپیک ادعا نکرد که مدل‌های هوش مصنوعی «کلود» آن دارای شعور هستند یا می‌توانند در اثر گفت‌وگو با کاربران آسیب ببینند، بلکه خاطرنشان کرد که درباره وضعیت اخلاقی کلود و سایر مدل‌های زبانی بزرگ چه در حال حاضر و چه در آینده بسیار نامطمئن است.

با وجود این، بیانیه آنتروپیک به برنامه‌ اخیر آن اشاره دارد که برای بررسی آنچه «سلامت مدل» م

آنتروپیک اضافه کرد: ما این ویژگی را به عنوان یک آزمایش مداوم در نظر می‌گیریم و به اصلاح رویکرد خود ادامه خواهیم داد.