سهشنبه 6 مرداد 1405 – 09:55 – بهروزشده در چهارشنبه 7 مرداد 1405 – 15:24
شرکت Moonshot AI با انتشار رایگان وزنهای Kimi K3، اجرای این مدل هوش مصنوعی را برای هر رک GPU ممکن کرده و با هزینه کمتر از رقبای بزرگ، به OpenAI و آنتروپیک فشار آورده است.
به گزارش سرویس هوش مصنوعی تکناک، این شرکت پس از انتشار یک پست وبلاگی و اسناد API برای مدل تازهنفس Kimi K3، به وعده خود مبنی بر انتشار رایگان وزنهای این مدل عمل کرد؛ این یعنی هر کسی با در اختیار داشتن یک رک مدرن از پردازندههای گرافیکی هوش مصنوعی، میتواند آن را بدون محدودیت خاصی اجرا کند و از آن درآمدزایی داشته باشد.
یکی از دلایل احتمالی کارایی بالای Kimi K3 استفاده از ترکیب استاندارد MXFP4 برای وزنها و MXFP8 برای فعالسازی ورودی است؛ دو نوع داده با دقت نسبتا پایین که امکان اجرا روی حافظه ویدیویی بسیار کمتر را فراهم میکنند. همچنین از میان ۲.۸ تریلیون پارامتر کیمی، در هر لحظه تنها ۱۰۴.۲ میلیارد پارامتر فعال میشوند.
برای مشاهده کامل مطب کلیک کنید