国产亚洲中文av_三级日韩在线观看_惠民福利特级毛片在线大全免费播放_午夜影院黄污一区二区三区_国产户外最新色爱视频网站视频_手机看片国产黄片_嫩草影院在线观看网站_亚洲国产免费综合_亚洲精品aⅴ无码精品_18禁超污无遮挡无码免费观看

當(dāng)DeepSeek遇見鯤鵬:SK90 DeepSeek智算一體機(jī)超融合AI部署實(shí)戰(zhàn)全解析

發(fā)表時(shí)間:2025-02-27

  返回列表

伴隨DeepSeek的開源和爆火,恒揚(yáng)數(shù)據(jù)快速推出SK90 DeepSeek智算一體機(jī)。對(duì)于想要深入探索SK90 DeepSeek智算一體機(jī)強(qiáng)大功能的伙伴們來說,了解其部署環(huán)境與步驟是開啟高效AI之旅的關(guān)鍵。恒揚(yáng)數(shù)據(jù)SK90 DeepSeek智算一體機(jī)搭載鯤鵬920模組和昇騰310智算芯片,擁有 64 核強(qiáng)勁算力,運(yùn)行openEuler 22.03 (LTS-SP3)系統(tǒng),可為企業(yè)數(shù)字化轉(zhuǎn)型和加速開發(fā)者 AI 應(yīng)用落地賦能助力。今天,就為大家詳細(xì)拆解在SK90 DeepSeek智算一體機(jī)上進(jìn)行超融合 AI 部署的全過程,從環(huán)境搭建到模型部署,步步為營(yíng),助你輕松掌握,快跟上腳步,一同開啟這場(chǎng)智算探索之旅!


部署環(huán)境
SK90 DeepSeek智算一體機(jī)包含2個(gè)鯤鵬920模組,單模組配置64核,實(shí)際配置如下:


部署步驟

步驟一:下載安裝Ollama

Ollama是一個(gè)開源的本地模型運(yùn)行工具,可以方便地下載和運(yùn)行各種開源模型,如 Llama、Qwen、DeepSeek等。Ollama提供高效、靈活的大模型部署和管理解決方案,可以簡(jiǎn)化模型的部署流程。支持macOS、Linux、Windows操作系統(tǒng)。
下載Ollama安裝命令:

curl -fsSL https://ollama.com/install.sh | sh
注:由于下載源的問題,下載較慢,建議通過手動(dòng)下載(比如迅雷工具下載)。

手動(dòng)下載鏈接:
https://ollama.com/download/OllamaSetup.exe

直接解壓安裝:

tar -C /usr -xzf ollama-linux-arm64.tgz


步驟二:?jiǎn)?dòng)運(yùn)行Ollama

啟動(dòng)運(yùn)行Ollama

ollama -v         # 查看版本信息
ollama serve       # 啟動(dòng)ollama


運(yùn)行輸出

從ollama 官網(wǎng)查找deepseek-r1模型。


https://ollama.com/search


deepseek-r1不同版本模型的執(zhí)行命令不同。


1.5b 的命令為:    "ollama run deepseek-r1:1.5b"

7b 的命令為:      "ollama run deepseek-r1:7b"

8b 的命令為:      "ollama run deepseek-r1:8b"

14b 的命令為:     "ollama run deepseek-r1:14b"


步驟三:?jiǎn)?dòng)運(yùn)行Ollama

推薦大家先下載較小的1.5b模型,把安裝程序跑通,再根據(jù)自己的硬件配置和需求安裝適當(dāng)?shù)陌姹尽?/p>


新開一個(gè)SSH終端,執(zhí)行如下命令下載并運(yùn)行r1:1.5b模型:


ollama run deepseek-r1:1.5b


運(yùn)行效果如下:
執(zhí)行如下命令下載并運(yùn)行r1:8b模型:


ollama run deepseek-r1:8b

運(yùn)行和簡(jiǎn)單提問輸出效果

以此類推,可以運(yùn)行32B模型:ollama run deepseek-r1:32b



步驟四:Ollama簡(jiǎn)單使用命令 
輸入 “/?”,可以獲得幫助。


至此,SK90 DeepSeek智算一體機(jī)的超融合AI部署實(shí)戰(zhàn)全解析就結(jié)束了。從前期的部署環(huán)境準(zhǔn)備,到一步步完成Ollama的安裝、啟動(dòng)以及DeepSeek模型的下載運(yùn)行,每一個(gè)環(huán)節(jié)都緊密相連。通過這些操作,大家已經(jīng)能夠在這臺(tái)智算一體機(jī)上初步體驗(yàn)到AI的魅力。在實(shí)際運(yùn)用中,大家可以根據(jù)自身需求,靈活調(diào)整模型版本和使用方式。要是在部署過程中遇到難題,別擔(dān)心,多嘗試文中的方法,也歡迎與我們聯(lián)系交流探討。