شکستن رکورد جهانی پردازش هوش مصنوعی توسط انویدیا

شنبه 3 خرداد 1404 – 12:00شرکت انویدیا با پردازش بیش از ۱,۰۳۸ توکن در ثانیه برای هر کاربر، رکورد جهانی جدیدی را در حوزه هوش مصنوعی به ثبت رساند.

به گزارش تک‌ناک، این رکورد در سرعت پاسخگویی هوش مصنوعی با استفاده از نود پیشرفته‌ DGX B200 و پردازنده‌های گرافیکی Blackwell در همکاری با مدل زبانی Llama 4 Maverick از شرکت متا به‌دست آمده است.

TensorRTspeculative decodingTPS/userچت‌بات‌ها

منبع  : تک ناک

برای مشاهده کامل مطب کلیک کنید