青云科技聚焦 AI 算力調度等能力,通過開放生態,聯合 AI 硬件及軟件供應商、算法模型服務商、各地不同規模的算力服務商以及行業應用服務商等,深度融合算力、算法、行業數據以及場景應用能力,讓 AI 真正能釋放出業務價值。
因此，青云科技 AI 算力發布會邀請了生態合作伙伴共同分享對于 AI 落地應用的技術與實踐。無問芯穹商業化副總裁李楓以《加速大模型落地的最后一公里》為主題發表精彩演講，分享了無問芯穹在大模型落地方向的探索和進展，以下為演講全文，經整理：
最近大模型在文本對話、圖像生成等 AI 內容生成領域上取得優異的性能，標志著 AI 2.0 時代的來臨。
如上圖所示的例子：微軟 Copilot 顯著提升辦公軟件 Office 的效率。比如我們輸入一個話題，程序可以自動生成相關的問題描述與日程安排；Midjourney 的圖像生成功能，使我們可以給給出描述文字得到自動生成圖片，同時能實現圖中所示的縮放功能。
在 AI 2.0 時代，大模型正引導了一輪巨大的技術變革，這幾個視頻都展示了大模型已經能服務生產對話、代碼生成，而這些能力未來將賦能千行百業的技術。然而面對大模型這樣的重要技術突破，我國卻在算法層和算力層都受到了限制，包括最先進的模型調用被攔截、最先進的芯片被美國限制出口，因此國產化是 AI 2.0 時代突圍的必經之路。
我們可以看到國內外生態差異非常明顯，國外針對不同的算法模型，英偉達提供了統一的算力平臺和 Cuda 的軟件生態。反觀國內的多種大模型、多套硬件平臺導致用戶難以實現高效統一部署，因此，算法模型和硬件平臺的適配成為生態和落地的最大瓶頸。
為了解決模型和算力之間的瓶頸，無問芯穹致力于提供大模型軟硬一體化自動化優化方案。向上，我們服務多家大模型算法企業。向下，我們聯動多家國產芯片公司。產品上，我們實現了大模型在多種硬件上的 M×N 一鍵部署平臺，降低大模型的使用門檻，讓模型部署越快越好，真正成為 AI 2.0 時代大模型的基礎設施。
最后，為了助力 AI 2.0 時代大模型落地，無問芯穹著力于解決四個痛點需求：
1、支持長文本或大輸入
比如之前支持 2K token 的模型，我們可以用快速推理和訓練，使它支持 32K token，我們就可以做好例如專業長文本的信息檢索、生成、會議聊天助手等應用。
2、提升性價比
我們把語言和多模態生成模型部署到消費級顯卡，甚至手機等終端設備上，讓廣大客戶用得起。
3、垂直領域適配
用大模型通用能力幫助各行各業的人們提升體驗和效率。
4、一鍵式部署
讓大模型能低人力成本被部署到各種場景，讓每個工廠、學校、家庭甚至個人都能用到它的能力。
希望無問芯穹能真正滿足客戶的實際需求，解決好大模型落地的最后一公里。再次感謝青云科技的邀請，無問芯穹希望攜手青云科技共創 AI 新紀元。
星空人工智能技術網 倡導尊重與保護知識產權。如發現本站文章存在版權等問題，煩請30天內提供版權疑問、身份證明、版權證明、聯系方式等發郵件至1851688011@qq.com我們將及時溝通與處理。！：首頁 > 星空人工智能產業 > AI大模型 » 青云 QingCloud合作伙伴無問芯穹分享：加速大模型落地的最后一公里