شنبه 2 اسفند 1404 – 11:05
سرویس سخت افزار تک‌ناک
در فضای کنونی محاسبات هوش مصنوعی، نرخ تأخیر به محدودیت بزرگی برای تأمین‌کنندگان تبدیل شده است، چرا که در محیط‌های مبتنی بر عامل، مزیت رقابتی اصلی در نرخ توکن بر ثانیه و سرعت تکمیل وظایف نهفته است. یکی از راهکارهای صنعت برای عبور از این چالش، ادغام حافظه SRAM در محصولات است که شرکت‌هایی نظیر Cerebras و Groq پیش‌گام آن بوده‌اند، اما استارت‌آپ تالاس مسیر متفاوتی را برگزیده و با چرخش از محاسبات چندمنظوره، به سمت طراحی تراشه‌های ASIC برای مدل‌های زبانی بزرگ حرکت کرده است.
به گفته تالاس، رویکرد این شرکت بر دو اصل تخصصی‌سازی بارهای کاری هوش مصنوعی در سطح سخت‌افزار و ادغام حافظه با محاسبات استوار است. تخصصی‌سازی به معنای نقشه‌برداری شبکه‌های عصبی روی خود سیلیکون برای بهینه‌سازی زیرساخت هر مدل است. هدف دوم نیز غلبه بر دیوارهای حافظه و کاهش سربار ارتباطات داده‌ای در سیستم‌های عمومی است.
برای مشاهده کامل مطب کلیک کنید