2025年企業(yè)擴展GenAI管道:自建與外部采購策略探索
在平衡雄心與實用性方面,擴大生成式工具的采用規(guī)模一直是一項挑戰(zhàn),而2025年,這一挑戰(zhàn)比以往任何時候都要嚴峻。爭相采用大型語言模型(LLM)的企業(yè)正面臨新的現(xiàn)實:擴展規(guī)模不僅僅是部署更大的模型或投資前沿工具——而且要以能夠轉(zhuǎn)變業(yè)務運營、增強團隊能力和優(yōu)化成本的方式整合AI。成功不僅僅取決于技術,它還需要文化和運營上的轉(zhuǎn)變,使AI能力與業(yè)務目標相契合。
擴展規(guī)模的迫切性:2025年的不同之處
隨著GenAI從實驗階段發(fā)展到企業(yè)級部署,企業(yè)正面臨一個轉(zhuǎn)折點。早期采用的興奮感已被保持效率、管理成本和在競爭激烈的市場中保持相關性的實際挑戰(zhàn)所取代。2025年擴展AI規(guī)模的關鍵在于回答一些棘手的問題:企業(yè)如何使生成式工具在各部門間發(fā)揮影響力?何種基礎設施能在不造成資源瓶頸的情況下支持AI的增長?或許最重要的是,團隊如何適應AI驅(qū)動的工作流程?
成功取決于三個關鍵原則:確定明確且高價值的用例,保持技術靈活性,以及培養(yǎng)具備適應能力的員工隊伍。成功的企業(yè)不僅僅采用通用AI——它們還制定戰(zhàn)略,使技術與業(yè)務需求相契合,并持續(xù)重新評估成本、性能以及持續(xù)影響所需的文化轉(zhuǎn)變。這種方法不僅僅在于部署前沿工具,它還關乎在技術和市場飛速變化的環(huán)境中構建運營韌性和可擴展性。
Wayfair和Expedia等公司體現(xiàn)了這些經(jīng)驗教訓,展示了混合方法如何轉(zhuǎn)變LLM的采用和運營。通過將外部平臺與定制解決方案相結合,這些企業(yè)展示了在敏捷性與精確性之間取得平衡的力量,為其他企業(yè)樹立了榜樣。
結合定制化與靈活性
構建或購買GenAI工具的決定往往被描繪為非此即彼的選擇,但Wayfair和Expedia展示了微妙策略的優(yōu)勢。Wayfair的首席技術官Fiona Tan強調(diào)了平衡靈活性與特定性的價值。Wayfair使用谷歌的Vertex AI進行通用應用,同時開發(fā)專有工具以滿足特定需求。Tan分享了公司的迭代方法,并闡述了較小、成本效益高的模型在標注產(chǎn)品屬性(如面料和家具顏色)方面往往優(yōu)于更大、更昂貴的選項。
同樣,Expedia采用了一個多供應商LLM代理層,允許無縫集成各種模型。Expedia的高級副總裁Rajesh Naidu將其戰(zhàn)略描述為一種在優(yōu)化成本的同時保持敏捷性的方式?!拔覀兛偸撬艡C而動,在合理的情況下尋找最佳[模型],但我們也愿意為自己的領域進行構建?!盢aidu解釋說。這種靈活性確保了團隊能夠適應不斷變化的業(yè)務需求,而不受單一供應商的束縛。
這種混合方法讓人想起了20世紀90年代的ERP演變,當時企業(yè)必須在采用僵化的現(xiàn)成解決方案和重度定制系統(tǒng)以適應其工作流程之間做出選擇。當時和現(xiàn)在一樣,成功的企業(yè)認識到了將外部工具與定制開發(fā)相結合以解決特定運營挑戰(zhàn)的價值。
核心業(yè)務功能的運營效率
Wayfair和Expedia都證明了LLM的真正力量在于能夠帶來可衡量影響的目標應用。Wayfair使用GenAI豐富其產(chǎn)品目錄,以自主準確性增強元數(shù)據(jù)。這不僅簡化了工作流程,還改進了搜索和客戶推薦。Tan強調(diào)了另一個變革性的應用:利用LLM分析過時的數(shù)據(jù)庫結構。由于原始系統(tǒng)設計者已不在,GenAI使Wayfair能夠減輕技術債務,并在遺留系統(tǒng)中發(fā)現(xiàn)新的效率。
Expedia在客戶服務和開發(fā)人員工作流程中成功集成了GenAI。Naidu分享說,一個為呼叫總結設計的定制GenAI工具確?!?0%的旅行者可以在30秒內(nèi)聯(lián)系到客服”,從而顯著提高了客戶滿意度。此外,GitHub Copilot已在全企業(yè)范圍內(nèi)部署,加速了代碼生成和調(diào)試。這些運營收益凸顯了將GenAI能力與明確且高價值的商業(yè)用例相結合的重要性。
硬件在GenAI中的作用
擴展LLM時,硬件方面的考慮往往被忽視,但它們在長期可持續(xù)性中發(fā)揮著關鍵作用。Wayfair和Expedia目前都依賴云基礎設施來管理其GenAI工作負載。Tan指出,Wayfair繼續(xù)評估谷歌等云提供商的可擴展性,同時關注未來對本地化基礎設施的潛在需求,以更高效地處理實時應用。
Expedia的方法也強調(diào)了靈活性。該公司主要托管在AWS上,并采用了一個代理層來動態(tài)地將任務路由到最合適的計算環(huán)境。該系統(tǒng)在性能與成本效率之間取得了平衡,確保了推理成本不會失控。Naidu強調(diào)了這種適應性的重要性,因為企業(yè)級GenAI應用變得越來越復雜,需要更高的處理能力。
對基礎設施的關注反映了企業(yè)計算的更廣泛趨勢,讓人想起了從單體數(shù)據(jù)中心向微服務架構的轉(zhuǎn)變。隨著Wayfair和Expedia等公司擴展其LLM能力,它們展示了在云可擴展性與邊緣計算和定制芯片等新興選項之間取得平衡的重要性。
培訓、治理和變革管理
部署LLM不僅僅是一項技術挑戰(zhàn)——它也是一項文化挑戰(zhàn)。Wayfair和Expedia都強調(diào)了培養(yǎng)組織對采用和整合GenAI工具的準備工作的重要性。在Wayfair,全面的培訓確保各部門員工能夠適應新的工作流程,特別是在客戶服務等領域,AI生成的回復需要人工監(jiān)督以匹配公司的語氣和語調(diào)。
Expedia通過成立負責任AI委員會來監(jiān)督所有與GenAI相關的重大決策,從而將治理工作更進一步。該委員會確保部署符合道德準則和業(yè)務目標,在整個企業(yè)中培養(yǎng)信任。Naidu強調(diào)了重新思考衡量GenAI有效性的指標的重要性。傳統(tǒng)的關鍵績效指標(KPI)往往不足,促使Expedia采用與業(yè)務目標更一致的精確度和召回率指標。
這些文化適應對于GenAI在企業(yè)環(huán)境中的長期成功至關重要。單靠技術無法推動轉(zhuǎn)型,轉(zhuǎn)型需要一個能夠利用GenAI能力的員工隊伍,以及一個確保負責任實施的治理結構。
擴展成功的經(jīng)驗教訓
Wayfair和Expedia的經(jīng)驗為任何希望有效擴展LLM的企業(yè)提供了寶貴教訓。這兩家公司都證明,成功的關鍵在于確定明確的商業(yè)用例、在技術選擇上保持靈活性,以及培養(yǎng)適應文化。它們的混合方法為在創(chuàng)新與效率之間取得平衡提供了模型,確保了GenAI投資能夠帶來切實成果。
2025年擴展AI規(guī)模之所以成為前所未有的挑戰(zhàn),是因為技術和文化變革的速度。今天定義成功AI部署的混合策略、靈活基礎設施和強大的數(shù)據(jù)文化,將為下一波創(chuàng)新奠定基礎?,F(xiàn)在建立這些基礎的企業(yè)不僅將擴展AI,它們還將擴展韌性、適應性和競爭優(yōu)勢。
展望未來,推理成本、實時能力和不斷演變的基礎設施需求等挑戰(zhàn)將繼續(xù)塑造企業(yè)級GenAI的格局。正如Naidu恰如其分地指出:“GenAI和LLM對我們來說將是一項長期投資,并且已使我們在旅游領域脫穎而出。我們必須意識到,這將需要有意識地優(yōu)先安排投資,并深入了解用例。”