یکشنبه 28 تیر 1405 – 11:50
مدل متنباز Kimi K3 شرکت Moonshot با معماری جدید KDA و توانایی پردازشی بالا به رقیب جدی OpenAI و آنتروپیک تبدیل شده است.
به گزارش سرویس هوش مصنوعی تکناک، این مدل هوش مصنوعی عظیم با ۲.۸ تریلیون پارامتر با هدف دستیابی به هوش مصنوعی در مقیاس مرزی (Frontier-Scale Intelligence) ساخته شده است. Kimi K3 یک مدل چندوجهی با پنجره زمینهای نزدیک به یک میلیون توکن است که طبق ادعای سازندگان، عملکردی رقابتی و حتی سریعتر از بسیاری از مدلهای رقیب ارائه میدهد. اگرچه احتمال میرود Moonshot بخشی از معماری پایه این مدل را با الهام از مدلهای Claude توسعه داده باشد، علاوه بر این، مدل متنباز Kimi K3 دارای یک نوآوری اختصاصی در حوزه مدیریت حافظه KV Cache است که با عنوان Kimi Delta Attention یا KDA شناخته میشود.
در نتیجه، معماری مدل متنباز Kimi K3 الگویی چهارمرحلهای ایجاد میکند:
مرتبط: مدل هوش مصنوعی چینی Kimi K3 همه را شگفتزده کرد