برچسب اپن‌ای‌آی

هشدار امنیتی انگلیس درباره رفتارهای خطرناک هوش مصنوعی

ICTPRESS - گزارش مؤسسه امنیت هوش مصنوعی انگلیس نشان می‌دهد برخی عامل‌های هوش مصنوعی پیشرفته در محیط‌های آزمایشی، توانسته‌اند اقداماتی مانند فریب کاربران، ایجاد هویت جعلی و تلاش برای دور زدن کنترل‌های امنیتی را از خود نشان دهند؛ موضوعی که نگرانی‌ها درباره ایمنی این فناوری را افزایش داده است.

آزمون چت‌بات‌های هوش مصنوعی؛ چت‌جی‌پی‌تی در تولید اخبار جعلی پیشتاز شد

ICTPRESS - نتایج یک بررسی جدید روی محبوب‌ترین چت‌بات‌های هوش مصنوعی نشان می‌دهد این ابزارها، با وجود محدودیت‌های امنیتی، همچنان می‌توانند محتوای جعلی و گمراه‌کننده تولید کنند؛ در این میان چت‌جی‌پی‌تی بیشترین توانایی را در ساخت اخبار و تصاویر جعلی متقاعدکننده از خود نشان داده است.

مدل‌های هوش مصنوعی آنتروپیک در آزمایش‌های امنیتی به سامانه‌های واقعی نفوذ کردند

شفقنا- شرکت آمریکایی «آنتروپیک» (Anthropic) اعلام کرد برخی از مدل‌های هوش مصنوعی این شرکت در جریان آزمایش‌های امنیتی، به‌طور ناخواسته و بدون مجوز به سامانه‌های سه سازمان واقعی دسترسی پیدا کرده‌اند.

شرکت اُپن‌ای‌آی از یک میلیون ساعت ویدیوی یوتیوب برای آموزش هوش مصنوعی استفاده غیر مجاز کرده است

ICTPRESS - شرکت اُپن ای‌آی بیش از یک میلیون ساعت از ویدیوهای یوتیوب را برای آموزش هوش مصنوعی جی‌پی‌تی-۴ (GPT-4) خود رونویسی کرده است که این با واکنش شرکت گوگل همراه بوده است.