کاهش ۵۰ درصدی هزینه تولید توکن هوش مصنوعی با سیستم حافظه خارجی Emfasys

چهارشنبه 8 مرداد 1404 – 20:55سیستم حافظه خارجی Emfasys

درحالی‌که ظرفیت رم برای بسیاری از برنامه‌های پیشرفته هوش مصنوعی به عاملی محدودکننده تبدیل شده است، افزودن حافظه بیشتر به سیستم‌های میزبان همواره ساده یا امکان‌پذیر نیست. در این زمینه، Enfabrica با توسعه سیستم Emfasys، راه‌حلی نوین ارائه داده است که امکان اتصال حافظه خارجی ازطریق شبکه را فراهم می‌سازد. در‌حال‌حاضر، این سیستم در مرحله آزمایشی با مشتریان منتخب قرار دارد.

جابه‌جایی داده میان سرورهای GPU و استخر حافظه ازطریق RDMA انجام می‌شود که امکان دسترسی مستقیم با تأخیر بسیار کم و بدون دخالت CPU را با استفاده از پروتکل CXL.mem فراهم می‌سازد. ناگفته نماند که برای استفاده از این استخر حافظه، سرورها باید به نرم‌افزار مدیریت حافظه چندلایه مجهز باشند که Enfabrica آن را ارائه می‌دهد. این نرم‌افزار با محیط‌های سخت‌افزاری و سیستم‌عامل‌های موجود سازگار بوده و مبتنی‌بر رابط‌های استاندارد RDMA طراحی شده است.

منبع  : تک ناک

برای مشاهده کامل مطب کلیک کنید

 

اشتراک‌گذاری

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *