یکشنبه 11 آبان 1404 – 10:50
محققان شرکت انویدیا با معرفی فناوری تازه‌ای به نام NVFP4 موفق شده‌اند انقلابی در آموزش مدل‌های زبانی بزرگ (LLM) ایجاد کنند.
به گزارش تک‌ناک، این فناوری امکان آموزش مدل‌ها را با دقت ۴ بیتی فراهم می‌کند، در حالی که سطح پایداری و دقت آن با مدل‌های ۸ بیتی برابری می‌کند. نتیجه این پیشرفت، کاهش چشمگیر هزینه‌ها و مصرف منابع در آموزش و اجرای مدل‌های هوش مصنوعی است؛ موضوعی که می‌تواند مسیر توسعه نسل آینده LLMها را برای شرکت‌های کوچک و متوسط نیز هموار کند.
MXFP4Mamba–TransformerFP8
برای مشاهده کامل مطب کلیک کنید