دسته آموزشی

AI Guardrails & Cybersecurity-AI Agents, Red Teaming HandsOn، دوره آموزش حفاظ‌های امنیتی و امنیت سایبری در هوش مصنوعی: عامل‌های هوش مصنوعی و تیم قرمز عملی توسط آکادمی Udemy منتشر شده است.با توجه به اینکه 77 درصد از شرکت‌ها با نقض‌های امنیتی هوش مصنوعی مولد مواجه هستند، این دوره عملی به شما یاد می‌دهد که با استفاده از Llama Guard 3، AWS Bedrock و CrewAI، حفاظ‌های امنیتی (guardrails) را برای مقابله با تزریق پرامپت، توهم (hallucination) و حملات سایبری در محیط تولید پیاده‌سازی کنید. شما بر فریمورک‌های متن‌بازی مانند GuardrailsAI، Nemo Guardrails و Haystack برای ایمن‌سازی اپلیکیشن‌های واقعی هوش مصنوعی مسلط خواهید شد. برنامه درسی طیف گسترده‌ای از فریمورک‌های حفاظتی را پوشش می‌دهد، از جمله Nemo برای مدیریت گفتگو، GuardrailsAI برای سیاست‌های اعتبارسنجی، AWS Bedrock برای سیاست‌های محتوای سازمانی، Haystack برای ارزیابی RAG و Llama Guard 3 برای تشخیص جیل‌بریک چندوجهی. همچنین یاد خواهید گرفت که از ابزارهای تست امنیتی مانند Garak برای تیم قرمز، CrewAI با OWASP ZAP برای تست نفوذ وب و Prompt-Guard برای مسدودسازی حملات در زمان واقعی استفاده کنید و با پلتفرم‌هایی مانند Hugging Face و مدل‌هایی مانند Phi-3.5-vision-instruct و phi3-hallucination-judge کار کنید.