97视频在线观看免费高清完整版在线观看-69精品人人人人-爱的色放3-亚洲黄色一区-亚洲精品视频免费在线观看-男人天堂免费视频-久久久社区-日韩综合一区二区-色撸撸在线-蝌蚪av-国产乱淫视频-男生尿隔着内裤呲出来视频-人操人操-欧美鲁鲁-免费视频99-3级av-中国一级大黄大黄大色毛片-久久久欧美精品-99精品在线看-色峰视频-印度毛茸茸-国产福利毛片-国产极品999-69日韩-天天综合网国产

星空人工智能技術網

DeepSeek系列新模型正式上線昇騰社區

 DeepSeek AI最新發布的多模態大模型Janus-Pro,以及之前發布的大型語言模型DeepSeek-R1、DeepSeek-V3及DeepSeek-V2,一經發布,就在AI領域引起了熱烈反響,多項創新技術顯著提升了模型的性能與效率。DeepSeek系列模型首發即支持昇騰平臺,讓用戶能夠在昇騰硬件和MindIE推理引擎上實現高效推理。

2025年2月4日,DeepSeek-R1、DeepSeek-V3、DeepSeek-V2、Janus-Pro正式上線昇騰社區,支持一鍵獲取DeepSeek系列模型,支持昇騰硬件平臺上開箱即用,推理快速部署,帶來更快、更高效、更便捷的AI開發和應用體驗,歡迎廣大開發者體驗使用。

圖片1.png

下面以Deepseek-V3為例,演示在昇騰社區如何高效獲取模型及使用

硬件要求:

部署DeepSeek-V3模型需配置4臺Atlas 800I A2(8*64G)服務器資源

模型調用實踐:

一、權重轉換

GPU

圖片2.png

NPU

圖片3.png

二、加載鏡像

在昇騰社區/開發資源下載適配DeepSeek-V3的鏡像包:

mindie:1.0.T71-800I-A2-py311-ubuntu22.04-arm64

完成之后,請使用docker images命令確認查找具體鏡像名稱與標簽。

圖片4.png

三、容器啟動

提供的MindIE鏡像預置了DeepSeek-V3模型推理腳本,從您信任的來源自行獲取權重后,放置在從上述下載的模型代碼的主目錄下,修改模型文件夾屬組為1001,執行權限為750,啟動容器。

圖片5.png

圖片6.png

四、服務化測試

配置服務化環境變量,expandable_segments-使能內存池擴展段功能,即虛擬內存特性

圖片7.png

修改服務化參數

圖片8.png

拉起服務化

圖片9.png

出現“Daemon start success!,則認為服務成功啟動。

 

更深入了解DeepSeek系列模型在昇騰上的使用方法及指導文檔,可登錄昇騰社區模型庫專區學習了解!

更多DeepSeek模型獲取鏈接可參考:

DeepSeek-R1

https://www.hiascend.com/software/modelzoo/models/detail/68457b8a51324310aad9a0f55c3e56e3

DeepSeek-V3

https://www.hiascend.com/software/modelzoo/models/detail/678bdeb4e1a64c9dae51d353d84ddd15

Janus-Pro

https://www.hiascend.com/software/modelzoo/models/detail/ffe1a0f4e8ba43aeb989251a3f0308e9

星空人工智能技術網 倡導尊重與保護知識產權。如發現本站文章存在版權等問題,煩請30天內提供版權疑問、身份證明、版權證明、聯系方式等發郵件至1851688011@qq.com我們將及時溝通與處理。!:首頁 > 星空人工智能產業 > AI大模型 » DeepSeek系列新模型正式上線昇騰社區

感覺不錯,很贊哦! ()
分享到:

留言與評論(共有 0 條評論)
   
驗證碼: