公司動(dòng)態(tài)
了解最新公司動(dòng)態(tài)
DeepSeek出來(lái)以后，有很多的硬件和集成廠商都在推DeepSeek大模型一體機(jī)。對(duì)于DeepSeek一體機(jī)的概念，也有很多專(zhuān)家認(rèn)為這個(gè)是智商稅，也有很多從業(yè)者認(rèn)為一體機(jī)能夠幫助很多傳統(tǒng)企業(yè)快速的降低AI大模型在企業(yè)中落地的門(mén)檻。
能滿血跑DeepSeek 671B大模型的一體機(jī)，例如8卡141G顯存的英偉達(dá)H20的機(jī)器，最低成本一百多萬(wàn)，是否值得入手呢？今天我們今天展開(kāi)來(lái)講一講DeepSeek一體機(jī)背后的邏輯。
百億美金成果，如今百來(lái)萬(wàn)即可實(shí)現(xiàn)
2025年因?yàn)镈eepSeek的橫空出世，過(guò)去OpenAI耗費(fèi)上百億美金打造的大模型，今天能夠一百多萬(wàn)的成本就可以落地到企業(yè)內(nèi)部。單臺(tái)八卡的機(jī)器就可以跑得動(dòng)滿血版DeepSeek，這樣的架構(gòu)對(duì)于大企業(yè)來(lái)說(shuō)也非常容易維護(hù)。
很多大型企業(yè)，尤其是體制內(nèi)的企業(yè)，由于數(shù)據(jù)安全防護(hù)的需求，過(guò)去在AI落地的過(guò)程非常緩慢，因?yàn)檫m合本地不是的開(kāi)源大模型能力與頂級(jí)的商用大模型有非常大的差距。內(nèi)部的應(yīng)用場(chǎng)景，連做個(gè)POC驗(yàn)證都沒(méi)法實(shí)現(xiàn)，很多設(shè)想的場(chǎng)景，用開(kāi)源的7B模型跑完后效果不盡人意，反而會(huì)讓那些對(duì)AI有熱情的部門(mén)或者員工喪失信心。
而今天由于DeepSeek一體機(jī)的成本已經(jīng)可以讓很多大型企業(yè)負(fù)擔(dān)得起，至少可以快速的把內(nèi)部的各種敏感場(chǎng)景用大模型驗(yàn)證起來(lái)。無(wú)論大模型說(shuō)得對(duì)還是說(shuō)的錯(cuò)，這些問(wèn)題都不會(huì)流傳到外網(wǎng)去，不會(huì)造成社會(huì)上的影響，可以減少企業(yè)創(chuàng)新的心理負(fù)擔(dān)。
不少大型企業(yè)，特別是體制內(nèi)的企業(yè)，數(shù)據(jù)安全防護(hù)的需求極為嚴(yán)苛，尤其是涉及到數(shù)據(jù)出境的場(chǎng)景，比如把內(nèi)部的應(yīng)用場(chǎng)景與OpenAI大模型API對(duì)接。在這點(diǎn)上，中國(guó)的要求跟歐美那些國(guó)家基本上也保持一致，DeepSeek出來(lái)后歐美很多國(guó)家也限制本土的企業(yè)去連接境外的大模型。
過(guò)去，AI 落地進(jìn)程異常緩慢，適配本地部署的開(kāi)源大模型，在能力上與OpenAI這樣的頂級(jí)商用大模型差距懸殊。像內(nèi)部一些應(yīng)用場(chǎng)景，想做個(gè) POC 驗(yàn)證都困難重重。許多設(shè)想中的場(chǎng)景，用開(kāi)源的 7B 模型運(yùn)行后，效果差強(qiáng)人意，這無(wú)疑給原本對(duì) AI 滿懷熱情的部門(mén)和員工潑了冷水，讓他們信心受挫。大家每天都在看著其他的先進(jìn)企業(yè)AI用的多么好么順暢；反觀自身，AI 實(shí)踐落地效果卻差強(qiáng)人意，不禁讓人質(zhì)疑，AI 大模型這股熱潮，是否只是一場(chǎng)虛幻的泡沫 。
如今情況大為不同，DeepSeek 一體機(jī)成本合理，企業(yè)至少能夠快速利用它，在內(nèi)部各種敏感場(chǎng)景開(kāi)展大模型驗(yàn)證工作。無(wú)論大模型在驗(yàn)證過(guò)程中給出的結(jié)果正確與否，相關(guān)問(wèn)題都不會(huì)泄露到外網(wǎng)，不會(huì)在社會(huì)上引發(fā)不良影響，大大減輕了企業(yè)創(chuàng)新時(shí)的心理負(fù)擔(dān) 。
DeepSeek一體機(jī)通過(guò)深度融合GPU資源編排系統(tǒng)、企業(yè)級(jí)模型全生命周期管理平臺(tái)及智能體應(yīng)用框架，實(shí)現(xiàn)從基礎(chǔ)設(shè)施到業(yè)務(wù)場(chǎng)景的垂直穿透，可以使企業(yè)得以聚焦業(yè)務(wù)場(chǎng)景創(chuàng)新而非技術(shù)堆棧適配，在一定程度上可以大幅降低企業(yè)落地DeepSeek的門(mén)檻。
如果有些企業(yè)不愿意支付固定資產(chǎn)成本，先用國(guó)內(nèi)公有云的DeepSeek的API服務(wù)是否也可以呢？畢竟DeepSeek完全開(kāi)源，而且開(kāi)源協(xié)議非常友好，任何云廠商都可以隨意部署并且對(duì)外提供服務(wù)。
目前算力資源緊缺，即使是云廠商也無(wú)法保障服務(wù)
大家在年初使用Deep Seek網(wǎng)頁(yè)的標(biāo)準(zhǔn)服務(wù)的時(shí)候，經(jīng)常會(huì)出現(xiàn)一次對(duì)話后就出現(xiàn)系統(tǒng)繁忙的提示，下一次對(duì)話還需要等好幾個(gè)小時(shí)。
國(guó)內(nèi)的互聯(lián)網(wǎng)大廠直至今年年初，方才在 AI 大模型布局上加緊步伐。此前，其內(nèi)部算力自顧不暇，難以滿足自身業(yè)務(wù)需求。當(dāng)下，大廠不僅要運(yùn)用 AI 對(duì)既有業(yè)務(wù)進(jìn)行全面升級(jí)，還需面向外部市場(chǎng)，提供海量 AI 服務(wù)。如此一來(lái)，從內(nèi)到外對(duì)算力的強(qiáng)勁需求，致使算力缺口急劇擴(kuò)大，其緊張程度不言而喻 。
2025年，中國(guó)企業(yè)對(duì)AI應(yīng)用落地的需求可能會(huì)出現(xiàn)十倍甚至百倍的增長(zhǎng)。在算力供需嚴(yán)重失衡的市場(chǎng)環(huán)境下（供應(yīng)緊縮與需求呈指數(shù)級(jí)增長(zhǎng)），算力資源正演變?yōu)閼?zhàn)略性稀缺資產(chǎn)。當(dāng)前公有云廠商雖通過(guò)低價(jià)策略搶占AI算力市場(chǎng)，但其商業(yè)模型面臨根本性挑戰(zhàn)：GPU集群在虛擬化效率與調(diào)度彈性上顯著弱于CPU架構(gòu)，導(dǎo)致傳統(tǒng)云計(jì)算基于資源復(fù)用的利潤(rùn)空間難以在AI算力領(lǐng)域復(fù)制。
GPU集群的成本結(jié)構(gòu)分析表明，當(dāng)企業(yè)算力需求達(dá)到一定的規(guī)模后，DeepSeek一體機(jī)與調(diào)用公有云API的綜合成本不會(huì)有本質(zhì)的差異，甚至本地部署可以降低成本的波動(dòng)。這種成本曲線的特性，使得中大型企業(yè)在規(guī)劃AI應(yīng)用規(guī)?；涞貢r(shí)，采用混合部署策略（核心算力本地化+彈性需求云端擴(kuò)展）成為更具經(jīng)濟(jì)性的選擇。
另外，對(duì)于大型企業(yè)來(lái)講，內(nèi)部的預(yù)算、成本核算和分?jǐn)傄?guī)則特別復(fù)雜，每個(gè)部門(mén)都去云上申請(qǐng)API的預(yù)算，流程的成本可能會(huì)遠(yuǎn)遠(yuǎn)大于API的費(fèi)用。這時(shí)候，通過(guò)一次預(yù)算申請(qǐng)DeepSeek一體機(jī)，滿足今年內(nèi)部大部分部門(mén)免費(fèi)使用，剩下的預(yù)算只有電費(fèi)的成本也有明確的開(kāi)支預(yù)算，更符合大企業(yè)的運(yùn)作機(jī)制。
再者，不同部門(mén)因業(yè)務(wù)應(yīng)用、業(yè)務(wù)場(chǎng)景以及數(shù)據(jù)性質(zhì)各不相同，即便不選用 OpenAI 這類(lèi)境外大模型 API 服務(wù)商，而是選擇國(guó)內(nèi)公有云，在決定哪些數(shù)據(jù)可上傳至公有云時(shí)，仍需開(kāi)展跨部門(mén)溝通與決策。例如在金融企業(yè)中，風(fēng)控部門(mén)與市場(chǎng)部門(mén)的數(shù)據(jù)敏感度差異大，協(xié)調(diào)兩者數(shù)據(jù)上云事宜，往往要召開(kāi)多次跨部門(mén)會(huì)議，每次會(huì)議籌備與召開(kāi)成本，溝通協(xié)調(diào)導(dǎo)致的時(shí)間延誤成本，這些都可能遠(yuǎn)遠(yuǎn)超過(guò)一體機(jī)的投資成本 。
從市場(chǎng)演進(jìn)軌跡觀察，上半年行業(yè)主要處于技術(shù)驗(yàn)證階段，大部分企業(yè)通過(guò)培訓(xùn)、學(xué)習(xí)交流、POC（概念驗(yàn)證）等方式探索應(yīng)用場(chǎng)景。隨著年中關(guān)鍵場(chǎng)景驗(yàn)證完成，市場(chǎng)將進(jìn)入算力部署密集期，Q3起AI算力需求會(huì)出現(xiàn)爆發(fā)式的增長(zhǎng)。這種預(yù)期使得金融、智能制造等重算力需求領(lǐng)域開(kāi)始采用"算力預(yù)鎖定"策略，通過(guò)提前部署DeepSeek一體機(jī)構(gòu)建確定性的算力保障體系。
這幾年，因?yàn)樗懔?yīng)持續(xù)緊張，即便像幾年前購(gòu)入的 A100、A800 這類(lèi)大容量企業(yè)級(jí)顯卡，在當(dāng)下市場(chǎng)中價(jià)格依舊居高不下。如果短期內(nèi)沒(méi)有新產(chǎn)品和新供應(yīng)商更有競(jìng)爭(zhēng)力的話，此時(shí)購(gòu)入 DeepSeek 一體機(jī)并不算是一個(gè) “敗家” 的決策。
當(dāng)然對(duì)于一些中小型的企業(yè)，用公有云的DeepSeek的API服務(wù)肯定是一種更靈活的選擇。
大模型更像硬件，而不是軟件，更不像SaaS
目前的大模型更像是一個(gè)硬件，例如DeepSeek 671B的大模型只要部署了以后，就很難去每天對(duì)其迭代優(yōu)化，微調(diào)模型的成本非常高，一般的企業(yè)無(wú)法承受，大模型并不是我們想象中的“軟件應(yīng)用”。
像本地部署的應(yīng)用軟件，一些開(kāi)發(fā)能力不錯(cuò)的企業(yè)，可以做到每個(gè)月甚至一周發(fā)一個(gè)版本。企業(yè)用戶若想實(shí)現(xiàn)更高頻迭代，不僅需要自建覆蓋開(kāi)發(fā)、測(cè)試、部署全流程的復(fù)雜技術(shù)體系，還要承擔(dān)版本兼容性、數(shù)據(jù)遷移，內(nèi)部高可用云環(huán)境等額外成本。
相較于本地部署軟件，SaaS 和云服務(wù)在版本迭代效率上展現(xiàn)出顯著優(yōu)勢(shì)。通過(guò)持續(xù)集成 / 持續(xù)部署（CI/CD）流水線的自動(dòng)化支撐，SaaS 服務(wù)商能夠?qū)崿F(xiàn)每周甚至小時(shí)級(jí)的灰度迭代，確保功能更新與用戶需求同步演進(jìn)。這種快速響應(yīng)能力依賴(lài)于云端集中管理架構(gòu)，既避免了傳統(tǒng)本地軟件繁瑣的版本分發(fā)流程，又通過(guò) AB 測(cè)試等機(jī)制保障了更新質(zhì)量。
而大模型的版本迭代更新并沒(méi)有軟件那么快，單次完整訓(xùn)練需 3-12 個(gè)月（數(shù)據(jù)清洗 / 模型訓(xùn)練 / 多輪驗(yàn)證），遠(yuǎn)超傳統(tǒng)軟件迭代節(jié)奏。分布式訓(xùn)練集群效率隨規(guī)模指數(shù)級(jí)下降，萬(wàn)億參數(shù)梯度噪聲控制仍是技術(shù)瓶頸。
更出色的大模型，離不開(kāi)更優(yōu)質(zhì)的數(shù)據(jù)、更充裕的籌備時(shí)間以及更大規(guī)模的參數(shù)。優(yōu)質(zhì)數(shù)據(jù)的獲取、清洗與標(biāo)注工作繁雜，時(shí)間上要?dú)v經(jīng)數(shù)據(jù)收集、模型設(shè)計(jì)與反復(fù)調(diào)試，而參數(shù)規(guī)模越大，運(yùn)算量和對(duì)硬件的要求就越高。這些因素綜合起來(lái)，致使大模型的迭代速度很難像軟件那樣，與手機(jī)、電腦這些硬件的迭代周期頗為相似。
大模型的輸入輸出帶寬不高，放在云下云上沒(méi)有本質(zhì)區(qū)別
以 ChatGPT、DeepSeek 為代表的大模型，輸入與輸出皆依賴(lài)文字，通過(guò) Prompt 與大模型交互。這種溝通方式效率與人類(lèi)語(yǔ)言交流相近，每秒至多傳輸幾十個(gè)字符。相較于計(jì)算機(jī)數(shù)據(jù)處理速度和網(wǎng)絡(luò)帶寬，這樣的溝通帶寬實(shí)在有限。
我們選擇 SaaS 或公有云，一大關(guān)鍵因素在于網(wǎng)絡(luò)帶寬的 “最后一公里” 成本。在許多地區(qū)，尤其是企業(yè)場(chǎng)景中，網(wǎng)絡(luò)帶寬成本居高不下。以中國(guó)為例，企業(yè)商業(yè)帶寬成本相較民用可能高出十倍有余。家庭用戶每月花費(fèi)幾百元，便能享受獨(dú)享的千兆帶寬；但是在企業(yè)里卻很難保障每人千兆帶寬的資源。一旦出現(xiàn)大量云上云下數(shù)據(jù)交互，極易形成網(wǎng)絡(luò)瓶頸。因此，對(duì)于本身業(yè)務(wù)具有互聯(lián)網(wǎng)屬性、需頻繁與外部交互的企業(yè)，如金融機(jī)構(gòu)面向 2C 的營(yíng)銷(xiāo)系統(tǒng)，如果90%的數(shù)據(jù)交互來(lái)自于互聯(lián)網(wǎng)，將系統(tǒng)完全部署在云端，也許是更好的一種交互方案。
反觀大模型，其極低的溝通帶寬，與計(jì)算機(jī)和網(wǎng)絡(luò)的高帶寬能力相比，簡(jiǎn)直微不足道。這意味著，企業(yè)若主要運(yùn)用大模型處理內(nèi)部業(yè)務(wù)、流程及數(shù)據(jù)，可將大模型一體機(jī)部署在本地，使其與本地系統(tǒng)及敏感數(shù)據(jù)安全交互，必要時(shí)再調(diào)用互聯(lián)網(wǎng)資源與數(shù)據(jù)查詢(xún)功能，這種方式切實(shí)可行。無(wú)論是企業(yè)對(duì)大模型應(yīng)用場(chǎng)景的定位—— 是側(cè)重于內(nèi)部事務(wù)處理，還是外部業(yè)務(wù)拓展，大模型的部署位置在云上還是云下通常不會(huì)成為架構(gòu)瓶頸，真正的制約因素在于大模型自身的吞吐量，一秒鐘幾十個(gè)字符而已。
總結(jié)與思考
在軟件領(lǐng)域，SaaS的模式可能要好于本地部署軟件。但是在AI大模型里，云上云下沒(méi)有本質(zhì)的區(qū)別。
大模型的特性決定了其與傳統(tǒng)軟件有別。它更類(lèi)似硬件，不容易修改，迭代周期長(zhǎng)、微調(diào)成本高。在網(wǎng)絡(luò)帶寬層面，大模型輸入輸出帶寬低，云下云上部署差異不大。對(duì)于企業(yè)而言，需綜合考量數(shù)據(jù)安全、成本預(yù)算、業(yè)務(wù)場(chǎng)景等因素。大型企業(yè)可通過(guò) DeepSeek 一體機(jī)實(shí)現(xiàn)內(nèi)部敏感場(chǎng)景驗(yàn)證，降低創(chuàng)新心理負(fù)擔(dān)。
本文轉(zhuǎn)自網(wǎng)絡(luò)，不為其版權(quán)負(fù)責(zé)。若有來(lái)源標(biāo)注錯(cuò)誤或侵犯了您的合法權(quán)益，請(qǐng)作者持權(quán)屬證明與本站聯(lián)系，我們將及時(shí)更正、刪除，謝謝。
關(guān)注微信公眾號(hào)
Copyright ? 2015-2021 biopond.cn All Rights Reserved. 魯ICP備2023002201號(hào)-1
