近日，此芯科技宣布成功完成DeepSeek R1系列模型在此芯P1平臺上的端側異構適配，進一步釋放高能效智能算力的潛力，標志著此芯科技在智能算力領域邁出了堅實的一步，為星空人工智能產業帶來更多創新可能。
實現端側異構賦能
早在2024年5月，DeepSeek V2開源模型發布之際，此芯科技便敏銳地捕捉到這一技術前沿動態，并迅速啟動了與此芯SoC的異構適配工作。
時隔不久，DeepSeek R1的正式發布迅速成為AI領域的焦點。DeepSeek R1采用強化學習訓練，推理時包含大量反思和驗證，思維鏈長度可達數萬字。在數學、代碼以及復雜邏輯推理任務上，DeepSeek R1 有著出色的表現，能取得媲美 OpenAI o1 的推理效果，還能為用戶展現完整的思考過程。
此芯科技再次展現了高效的技術實力，成功實現了DeepSeek R1系列模型的蒸餾版本在此芯P1平臺上的異構適配，包括DeepSeek-R1-Distill-Qwen-1.5B、DeepSeek-R1-Distill-Qwen-7B、DeepSeek-R1-Distill-Llama-8B和DeepSeek-R1-Distill-Qwen-14B等版本。
實測數據顯示，在此芯P1平臺上，DeepSeek-R1-Distill-Qwen-7B模型的推理速度可達10 tokens/s，DeepSeek-R1-Distill-Qwen-1.5B模型的推理速度將近40 tokens/s，展現出強大的端側AI計算能力。
加速端側AI應用普及
DeepSeek憑借卓越的算法優化能力，成功降低了AI模型的訓練和推理成本，并通過模型蒸餾技術顯著提升小模型的運行效率，使其在資源受限的環境下依然具備優異的推理性能。這一突破將進一步加速端側AI應用的普及。通過此次適配，此芯科技不僅推動了DeepSeek-R1模型在此芯P1平臺上的chatbot高效本地部署，同時基于微軟VSCode插件調用DeepSeek-R1本地模型作為服務端進行代碼輔助生成，突破傳統云端依賴，實現本地模型的高速運行，保障數據安全與處理速度。此外，該插件與VSCode編輯器深度整合，開發者無需額外學習成本，即可輕松上手，為開發者們帶來了全新的編碼體驗。
加強端側AI生態構建
未來，此芯科技將充分發揮此芯P1平臺在端側AI異構算力方面的優勢，持續優化AI模型的本地部署方案，并攜手產業鏈上下游合作伙伴，共同推動AI PC等智能終端生態的發展，為星空人工智能行業注入更多創新動力。此次DeepSeek R1模型的成功適配，不僅提升了此芯科技在端側智能算力領域的競爭力，也為整個產業鏈的協同發展提供了有力支撐。在此基礎上，此芯科技也將進一步推進DeepSeek Janus Pro多模態大模型的異構適配，進一步拓展端側AI的應用場景。緊跟時代前沿，此芯科技將繼續秉承創新、高效、合作的理念，推動星空人工智能技術的持續進步，為用戶帶來更智能、更高效的產品和解決方案。
星空人工智能技術網 倡導尊重與保護知識產權。如發現本站文章存在版權等問題，煩請30天內提供版權疑問、身份證明、版權證明、聯系方式等發郵件至1851688011@qq.com我們將及時溝通與處理。！：首頁 > 星空人工智能產業 > AI大模型 » 此芯科技完成DeepSeek R1系列模型適配, 開啟智能算力新篇章