當(dāng)DeepSeek遇見鯤鵬:SK90 DeepSeek智算一體機(jī)超融合AI部署實(shí)戰(zhàn)全解析
發(fā)表時(shí)間:2025-02-27
返回列表伴隨DeepSeek的開源和爆火,恒揚(yáng)數(shù)據(jù)快速推出SK90 DeepSeek智算一體機(jī)。對(duì)于想要深入探索SK90 DeepSeek智算一體機(jī)強(qiáng)大功能的伙伴們來說,了解其部署環(huán)境與步驟是開啟高效AI之旅的關(guān)鍵。恒揚(yáng)數(shù)據(jù)SK90 DeepSeek智算一體機(jī)搭載鯤鵬920模組和昇騰310智算芯片,擁有 64 核強(qiáng)勁算力,運(yùn)行openEuler 22.03 (LTS-SP3)系統(tǒng),可為企業(yè)數(shù)字化轉(zhuǎn)型和加速開發(fā)者 AI 應(yīng)用落地賦能助力。今天,就為大家詳細(xì)拆解在SK90 DeepSeek智算一體機(jī)上進(jìn)行超融合 AI 部署的全過程,從環(huán)境搭建到模型部署,步步為營(yíng),助你輕松掌握,快跟上腳步,一同開啟這場(chǎng)智算探索之旅!
部署環(huán)境
SK90 DeepSeek智算一體機(jī)包含2個(gè)鯤鵬920模組,單模組配置64核,實(shí)際配置如下:
部署步驟
步驟一:下載安裝Ollama
Ollama是一個(gè)開源的本地模型運(yùn)行工具,可以方便地下載和運(yùn)行各種開源模型,如 Llama、Qwen、DeepSeek等。Ollama提供高效、靈活的大模型部署和管理解決方案,可以簡(jiǎn)化模型的部署流程。支持macOS、Linux、Windows操作系統(tǒng)。
下載Ollama安裝命令:
curl -fsSL https://ollama.com/install.sh | sh |
手動(dòng)下載鏈接:
https://ollama.com/download/OllamaSetup.exe |
直接解壓安裝:
tar -C /usr -xzf ollama-linux-arm64.tgz |
步驟二:?jiǎn)?dòng)運(yùn)行Ollama
啟動(dòng)運(yùn)行Ollama
ollama -v # 查看版本信息 ollama serve # 啟動(dòng)ollama |
https://ollama.com/search |
1.5b 的命令為: "ollama run deepseek-r1:1.5b" 7b 的命令為: "ollama run deepseek-r1:7b" 8b 的命令為: "ollama run deepseek-r1:8b" 14b 的命令為: "ollama run deepseek-r1:14b" |
步驟三:?jiǎn)?dòng)運(yùn)行Ollama
推薦大家先下載較小的1.5b模型,把安裝程序跑通,再根據(jù)自己的硬件配置和需求安裝適當(dāng)?shù)陌姹尽?/p>
ollama run deepseek-r1:1.5b |
ollama run deepseek-r1:8b |
運(yùn)行和簡(jiǎn)單提問輸出效果
以此類推,可以運(yùn)行32B模型:ollama run deepseek-r1:32b
輸入 “/?”,可以獲得幫助。
至此,SK90 DeepSeek智算一體機(jī)的超融合AI部署實(shí)戰(zhàn)全解析就結(jié)束了。從前期的部署環(huán)境準(zhǔn)備,到一步步完成Ollama的安裝、啟動(dòng)以及DeepSeek模型的下載運(yùn)行,每一個(gè)環(huán)節(jié)都緊密相連。通過這些操作,大家已經(jīng)能夠在這臺(tái)智算一體機(jī)上初步體驗(yàn)到AI的魅力。在實(shí)際運(yùn)用中,大家可以根據(jù)自身需求,靈活調(diào)整模型版本和使用方式。要是在部署過程中遇到難題,別擔(dān)心,多嘗試文中的方法,也歡迎與我們聯(lián)系交流探討。