سازمان ملل متحد در تازهترین گزارش هیأت علمی مستقل خود درباره هوش مصنوعی هشدار داد که سرعت پیشرفت این فناوری از توان دولتها برای قانونگذاری و حتی از درک علمی موجود پیشی گرفته و در صورت نبود سازوکارهای مناسب، میتواند به خطرات فاجعهبار منجر شود.
به گزارش سیتنا، این گزارش که توسط ۴۰ دانشمند و متخصص بینالمللی تهیه شده، نخستین ارزیابی علمی مستقل در سطح جهانی از فرصتها و مخاطرات هوش مصنوعی به شمار میرود. در این گزارش به رشد سریع سامانههای هوش مصنوعی عاملمحور (Agentic AI)، افزایش رفتارهای فریبکارانه برخی مدلهای هوش مصنوعی و احتمال سوءاستفاده از این فناوری در حملات سایبری، تولید اطلاعات نادرست، کلاهبرداری و تهدیدهای زیستی اشاره شده است.