AI 大模型是 AI 應(yīng)用里最貼近廣大用戶的端側(cè) app,作為一個(gè)連續(xù)兩年參加 AMD AI 創(chuàng)新峰會(huì)的本人看來,去年的 AI 峰會(huì)上展示的還是文生圖、圖生圖之類淺顯的東西,而今年的 AI 峰會(huì)則展現(xiàn)了 AI 自動(dòng)編程制作小游戲、AI 圖解講授傅里葉變換等數(shù)學(xué)教學(xué) app、AI 個(gè)性化行程助手等。
隨著 DeepSeek 橫空出世,以及通義千問等大模型的迭代優(yōu)化,再加上中文語境下 AI 大模型數(shù)據(jù)不斷被標(biāo)記、優(yōu)化,AI 本地大模型也越來越好用,這也讓很多企業(yè)、個(gè)人開始擁抱 AI 本地大模型,以便更好地迎接未來的 AI 浪潮。
每個(gè)人隨著自己訓(xùn)練 AI 的情境不同,AI 本地大模型千差萬別。有必要跨平臺(tái)場(chǎng)景下,就非常需要整一個(gè)便攜 AI 本地大模型。本次我將利用存儲(chǔ)大牌子——宏碁掠奪者新發(fā)布的 GP30 2TB PSSD為例,分享怎么打造便攜 AI 本地大模型。
為什么是用宏碁掠奪者 GP30 2TB 打造便攜 AI 本地大模型?因?yàn)楹瓿灺訆Z者 GP30 2TB 擁有超高速讀寫能力,并在連接之后待機(jī)時(shí)紫色常亮,讀寫傳輸時(shí)七色閃爍。可以顯示非常出色的指示燈作用!
☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆
▲ 產(chǎn)品的外包裝采用簡(jiǎn)約的設(shè)計(jì)風(fēng)格。正面清晰展現(xiàn)產(chǎn)品的樣子。以及產(chǎn)品的型號(hào)、產(chǎn)品類型,以及產(chǎn)品容量。產(chǎn)品頂部的“宏碁掠奪者”及其“LOGO” 清晰表明了其歸屬產(chǎn)品品牌。
▲ 外包裝背面就是產(chǎn)品的簡(jiǎn)約版說明書。背面有銘牌貼紙,右下角的認(rèn)證標(biāo)示展示著產(chǎn)品通過歐盟 CE 等嚴(yán)格的安全標(biāo)準(zhǔn)。
▲ 產(chǎn)品的內(nèi)包裝采用硬質(zhì)塑料殼加以包裹保護(hù),同時(shí)有效隔絕靜電。
硬質(zhì)塑料殼底部藏著 USB-C 數(shù)據(jù)線、說明書以及高品質(zhì)小牛皮收納袋。
▲ 產(chǎn)品的全家福。 包含宏碁掠奪者 GP30 2TB 本體,USB-C 數(shù)據(jù)線(一頭可以 USB-C 轉(zhuǎn) USB-A)、說明書以及高品質(zhì)小牛皮收納袋。
▲ 高品質(zhì)小牛皮收納袋有記憶金屬條,讓收納袋保持形狀的同時(shí),也可以自動(dòng)閉合封緊收納袋。收納袋可以輕松裝下宏碁掠奪者 GP30 2TB 本體,以及多用途數(shù)據(jù)線。
▲ 宏碁掠奪者 GP30 2TB 采用高品質(zhì) ADC12 鋁合金作為外殼,正面采用高品質(zhì)透視頂蓋。讓用戶可以清晰觀察到產(chǎn)品內(nèi)部的主控以及 NAND。內(nèi)里出色的電器元件布局、清晰的焊點(diǎn)以及做工都令人心安。
宏碁掠奪者的 LOGO 讓產(chǎn)品的識(shí)別度超高,產(chǎn)品小巧玲瓏,可以輕松掌握。
▲ 宏碁掠奪者 GP30 2TB 采用的是慧榮科技 SM2322G AB 主控,采用雙核 ARM Cortex R5 CPU,支持 4通道 / 每通道 8CE,可以支持最大 8TB。最高性能,連續(xù)順序讀和寫標(biāo)稱值為 2000MB/s
▲ 宏碁掠奪者 GP30 2TB 采用的佰維存儲(chǔ)自己封裝的兩顆 NAND 顆粒,顆粒編號(hào) BW29F4T08EMCLHQM。
▲ 宏碁掠奪者 GP30 2TB 背面則完全是高品質(zhì) ADC12 鋁合金材質(zhì),可以更好地保護(hù)產(chǎn)品。
背面有宏碁掠奪者的 LOGO ,以及產(chǎn)品的 SN 等正品信息。
▲ 產(chǎn)品采用 USB-C Gen2 2x2 20Gbps 接口,目前主流級(jí)的主板都有提供這個(gè)接口,宏碁掠奪者 GP30 2TB 可以十分輕松釋放全部性能。
☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆
▲ 通過與傳統(tǒng)手機(jī)的對(duì)比,可以看到宏碁掠奪者 GP30 2TB 的大小大概只有手機(jī)的 1/4 多一點(diǎn),十分小巧輕便。它的 ARGB 亮度與屏幕亮度對(duì)比也一眼可以看出。大概相當(dāng)與 45% 亮度的手機(jī)屏幕亮度。
▲ 湊近看??梢钥吹胶瓿灺訆Z者 GP30 2TB 的 LED 光源在兩側(cè)的突出部,這樣在正面形成氛圍光,也可以突出宏碁掠奪者的 LOGO!
在通電 or PSSD 待機(jī)狀態(tài)下,常亮紫色光,這作為連接成功的指示燈非常直觀!
▲ 宏碁掠奪者 GP30 2TB 在進(jìn)行讀寫操作之后,會(huì)呈現(xiàn)非常獨(dú)特的七彩循環(huán)呼吸 ARGB 效果。
作為便攜 AI 大模型存儲(chǔ)介質(zhì)時(shí),其獨(dú)特的讀寫時(shí)炫彩 ARGB 效果會(huì)有非常出色的指示燈效果!
☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆
▲ 采用 Crystal Disk Info 也能正確識(shí)別宏碁掠奪者 GP30 2TB 。有趣的是,當(dāng)我對(duì) PSSD 進(jìn)行讀寫操作后,CDI 也會(huì)即時(shí)記錄寫入與讀取量。
▲ Crystal Disk Mark 實(shí)測(cè)宏碁掠奪者 GP30 2TB 最大讀取速度為 2090 MB/s,最大寫入速度為 2024 MB/s,跟比標(biāo)稱速度略高,這個(gè)速度作為 AI 大模型便攜存儲(chǔ)盤十分合適!
☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆
▲ Ollama 默認(rèn)安裝是安裝到 “C:Users<你的電腦賬戶名>
AppDataLocalProgramsOllama”。其實(shí) Ollama 也可以安裝到其他盤上,比如這次的宏碁掠奪者 GP30 2TB PSSD 上。本次 PSSD 在 E 盤,所以在 E 盤新建了 AI —— Ollama 文件夾,并把最新的 Ollama 安裝程序移動(dòng)到這個(gè)文件夾。
Win11 系統(tǒng)比較簡(jiǎn)單,右鍵鼠標(biāo)即可呼出菜單——在終端中打開,然后進(jìn)入 Windows PowerShell。
Win10 麻煩點(diǎn),需要 “win+r” 呼出運(yùn)行,輸入“CMD”,然后利用 CD 指令來到你所建立的目錄。
▲ 確認(rèn)目前指向您所需要的文件夾后,輸入指令 “ .OllamaSetup.exe /DIR=E:AIOllama”其中紅色字體部分為您所確定的目前 OllamaSetup,以及未來 Ollama 所存儲(chǔ)的文件位置。
接下去大家都懂,那就跳過。
▲ 安裝完是這個(gè)樣子的,當(dāng)然接下去才是重頭戲,怎么把大模型也存儲(chǔ)以及指向到 PSSD 上。
▲ 傳統(tǒng)的大模型被安裝到 C 盤的位置,關(guān)鍵是還有指向性環(huán)境變量,并不是簡(jiǎn)單的把大模型遷移過來了事。
首先我們直接在搜索框輸入“環(huán)境變量”,結(jié)果里有個(gè) “編輯系統(tǒng)環(huán)境變量” 選項(xiàng),選擇它!
▲ 進(jìn)入“系統(tǒng)屬性” 菜單后,我們選擇頂部的 1 所指向的 “高級(jí)” 子菜單,然后找到底部 2 所指向的 “環(huán)境變量”,進(jìn)入下一級(jí)彈出選項(xiàng)。
▲ 進(jìn)入 “環(huán)境變量” 菜單后,我們選擇底部 1 所指向的 “新建” 系統(tǒng)變量選項(xiàng),會(huì)彈出圖中 2 所框選的菜單。
然后要在 3 所指向的位置輸入“OLLAMA_MODELS” ——特別注意,這段文字前后都不能有空格以及符號(hào)!
4 所指向的則是您所需要存儲(chǔ) AI 大模型的位置。文檔名字可以隨您起,不過不允許中文路徑哈!
經(jīng)本人實(shí)測(cè),如果只輸入文件夾名,比如“AI MODELS”,系統(tǒng)會(huì)默認(rèn)在 Ollama 剛剛安裝的文件夾下新建 “AI MODELS”,并把大模型下載、存儲(chǔ)、指向到這個(gè)位置。
最后點(diǎn)擊底部的 “確定” 按鈕,完成本次設(shè)置。
▲ 完成所有設(shè)置后,記得把 Ollama 退出。再重新調(diào)用 Ollama ,可以完成之前改變的 AI 大模型存儲(chǔ)、指向、調(diào)用位置。
▲ 跟剛才一樣,進(jìn)入 “Windows PowerShell” 后,我們下載 deepseek-r1:14b 模型試試。
復(fù)制入指令 “ollama run deepseek-r1:14b”,經(jīng)過一段時(shí)間漫長(zhǎng)的等待后,完成了 DS R1 14B 的大模型下載。
我們來試試成果吧!
☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆
▲ 像中小型的 AI 大模型,用宏碁掠奪者 GP30 為代表的 USB-C 20Gbps PSSD 作為便攜 AI 大模型真的很合適,方便工程師、程序員們隨時(shí)對(duì)模型進(jìn)行調(diào)校,像我在我父母家用 9700X + RTX 5080 來測(cè)試調(diào)整。
▲ 向 DS R1 14B 提問:
我是一個(gè)來自福建漳州龍海的高考生,性別男,想要填報(bào)志愿,成績(jī)?yōu)槎厩爸形恢?,家里條件一般,年收入12萬左右,有一個(gè)妹妹,想要獲得更好的就業(yè)前景,并且未來能有更多的提升空間
要求1、家人希望我讀大學(xué)不要拖累家庭
要求2、還可以提攜一下弟弟妹妹
▲ 大模型因?yàn)槌跏及妫粔蛑悄?,要自己不斷調(diào)整,這也是為什么本地大模型需要不斷調(diào)整、優(yōu)化。這也是為什么未來幾年內(nèi),AI 數(shù)據(jù)標(biāo)記師,AI 大語言模型調(diào)整工程師就業(yè)前景出色的原因——每一個(gè)好用的行業(yè) AI 大模型的背后,都有人不斷在優(yōu)化調(diào)整,標(biāo)記數(shù)據(jù)。
☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆
▲ 換到租房電腦的 8700G 上,我們來試試宏碁掠奪者 GP30 2TB 還能繼續(xù)用上 DS R1 14B 嗎?
▲ 如果之前安裝 ollama ,可以直接調(diào)用。但是使用之前還是一定要更改“OLLAMA_MODELS” 的指向性。至于大模型存儲(chǔ)的位置,一定是您 PSSD AI 大模型所存儲(chǔ)的位置!我這臺(tái)電腦碰巧 U 盤 / PSSD 默認(rèn)盤符也是 E 盤,所以跟剛才一樣指向同一位置。其實(shí)這個(gè)位置最簡(jiǎn)單了,把文件夾地址復(fù)制上去即可!
▲ 我還是安裝之前的步奏,把 ollama 安裝到宏碁掠奪者 GP30 2TB 所在的 E 盤 —— AI ——ollama 文件夾下,還是跟剛剛一樣的操作。
▲ 在更改“OLLAMA_MODELS” 的指向后,直接調(diào)用 DS R1 14B ,可以看到無需下載直接使用,而且調(diào)用還是之前已經(jīng)調(diào)校過的本地 AI 大模型。
☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆
▲ 個(gè)人見解呀,AI 方向,包括大語言模型,以及未來可能落地的端側(cè) APP ,是后續(xù)熱門的方向,很多應(yīng)用、大模型在調(diào)試之時(shí),是需要經(jīng)過工程師、程序員進(jìn)行不斷調(diào)試優(yōu)化。這些大神們可以利用像宏碁掠奪者 GP30 這樣優(yōu)秀的 USB-C 20Gbps PSSD 實(shí)現(xiàn)在不同環(huán)境下的 AI 大模型調(diào)校。其超高的讀寫速度,較低的運(yùn)行溫度,以及別具一格的紫色通電指示燈、讀寫時(shí)七彩循環(huán)呼吸燈都是非常出色的物理指示燈,加上小巧玲瓏的體積,很合乎調(diào)校時(shí)候的使用需求,它富含現(xiàn)代簡(jiǎn)約美學(xué)的外觀,也會(huì)給人獨(dú)特的視覺體驗(yàn)。
當(dāng)然宏碁掠奪者 GP30 也可以作為數(shù)據(jù)以及游戲的存儲(chǔ)的介質(zhì),比如我很喜歡將測(cè)試游戲安裝到 PSSD 里,方便在不同電腦間快速切換,減少前期準(zhǔn)備工作所需的時(shí)間跟精力!