CIO們開始重新考慮他們對公有云用于AI和其他工作負載的依賴，對私有云和本地部署環(huán)境的興趣日益濃厚。

數(shù)據(jù)觀測公司Prove AI的CTO Greg Whalen表示，雖然公有云為AI實驗提供了靈活部署大量GPU的能力，但隨著AI策略的成熟和可預測AI工作負載的確定，CIO們正尋求私有云或本地部署環(huán)境來限制開支并保護數(shù)據(jù)隱私。

Prove AI最近對美國和加拿大的1000名企業(yè)領導者進行的一項調查發(fā)現(xiàn)，67%的受訪者計劃在未來12個月內(nèi)將部分AI數(shù)據(jù)遷移到非云端環(huán)境。調查顯示，除了成本可預測性和數(shù)據(jù)隱私擔憂外，遷移的主要原因還包括安全問題和與SaaS環(huán)境的云集成挑戰(zhàn)。

Whalen說，對于運行穩(wěn)定AI工作負載的企業(yè)來說，通過購買幾個GPU或在其私有云提供商處安裝幾個GPU來節(jié)省資金，而不是在公有云中租用時間。他堅稱，如果IT領導者能夠準確估計他們的需求，那么內(nèi)部的GPU將會得到充分利用，幾乎沒有閑置時間。

他說：“如果你真的在進行微調，或者即使你只是想定制一個RAG(檢索增強生成)模型，你可能需要連續(xù)數(shù)小時的GPU計算?！薄凹词乖趯嶋H評估模型和運行模型時，你的工作負載也不會非常波動?！?/p>

Whalen表示，他很少看到有企業(yè)因GPU使用不足而自行運行GPU的情況。

他補充道：“如果有人說，‘你有一個GPU，但你可能只使用它10%的時間’，根據(jù)我們的經(jīng)驗，情況并非如此。”“你會發(fā)現(xiàn)用它來做很多事情，而且往往大部分工作負載都是訓練，這是非常連續(xù)的，你是在可預測的時間段內(nèi)運行的?！?/p>

私有云支出增長

雖然Prove AI的調查顯示了對本地計算的興趣，但另一項調查顯示，即使在公有云支出以較低速率增長的同時，私有云支出也出現(xiàn)了顯著增長。

為網(wǎng)絡和安全提供商GTT Communications進行的調查顯示，計劃在公有云上花費超過1000萬美元的企業(yè)數(shù)量在2024年至2025年間增長了12%。

但根據(jù)調查，計劃在私有云服務上花費超過1000萬美元的受訪者比例增長更快，從2023年的36%增長到2024年的43%，再到2025年的54%，這是公有云大額支出者增長速度的兩倍。

GTT發(fā)現(xiàn)，現(xiàn)在超過一半的AI工作負載位于私有云和本地部署環(huán)境的組合中，安全、合規(guī)以及AI工作負載的特定需求是尋求公有云替代方案的主要原因。

GTT負責戰(zhàn)略和技術采用的副總裁Bastien Aerni表示，監(jiān)管和合規(guī)問題是推動采用私有云或本地部署解決方案的主要因素。許多公司正在將其敏感工作負載轉移到私有云，作為支持代理AI和其他復雜AI計劃的更廣泛的多云和混合策略的一部分，他補充道。

Aerni說：“大多數(shù)時候，AI都會涉及到機密數(shù)據(jù)或業(yè)務關鍵數(shù)據(jù)。”“那么，關于架構以及工作負載應該是公共的還是私有的，甚至是本地的思考，就成了一個真正的問題。”

他表示，公有云仍然為AI項目提供了最大的可擴展性，并且近年來，CIO們被那里提供的眾多額外功能所說服。

“在五年前我與一些CIO的交談中，他們會提到，‘有很多功能，很多工具，’”Aerni補充道?！艾F(xiàn)在，當我進行同樣的交談時，他們會說，‘實際上，我現(xiàn)在并不怎么使用那些工具?！麄兌荚趯ふ曳€(wěn)定性和可預測性。”

小規(guī)模遷移

其他云和AI專家并未看到從公有云的大規(guī)模遷移，由于AI的高計算需求，公有云仍在增長。云咨詢公司Zoi North America的董事總經(jīng)理Danilo Kirschner表示，仍有很大比例的企業(yè)在使用混合云模型。

他說，雖然正在發(fā)生數(shù)據(jù)回遷，但企業(yè)并沒有完全放棄公有云。

Kirschner說：“矛盾顯而易見：AI工作負載既在推動巨大的云增長，又在同時推動選擇性數(shù)據(jù)回遷，因為市場擴張如此迅速，以至于同時容納了多種部署模型?！薄拔覀兯吹降氖菑奶煺娴摹磺猩显啤呗韵蛑悄艿?、針對特定工作負載的決策的成熟轉變。”

C4 Technology Services(一家IT人員配置咨詢公司)的首席AI官Zac Engler也看到了同樣的趨勢。

“我們并沒有看到從云端的大規(guī)模遷移，”他說，“更像是公司正在悄悄地帶著它們最有價值的AI工作負載從側門溜走?！?/p>

他補充道，對數(shù)據(jù)的信任、成本和數(shù)據(jù)控制又回到了董事會日程上，并影響著AI工作負載運行和數(shù)據(jù)存儲位置的決策。

Engler說：“公有云仍然非常適合進行實驗、快速擴展以及在董事會展示中給人留下深刻印象?！薄暗牵斏婕暗綄Ｓ袛?shù)據(jù)、合規(guī)性或不必要的資金消耗時，本地部署和私有設置就開始變得更有意義了?！?/p>