CIO們開始重新考慮他們對公有云用于AI和其他工作負(fù)載的依賴，對私有云和本地部署環(huán)境的興趣日益濃厚。

數(shù)據(jù)觀測公司Prove AI的CTO Greg Whalen表示，雖然公有云為AI實(shí)驗(yàn)提供了靈活部署大量GPU的能力，但隨著AI策略的成熟和可預(yù)測AI工作負(fù)載的確定，CIO們正尋求私有云或本地部署環(huán)境來限制開支并保護(hù)數(shù)據(jù)隱私。

Prove AI最近對美國和加拿大的1000名企業(yè)領(lǐng)導(dǎo)者進(jìn)行的一項(xiàng)調(diào)查發(fā)現(xiàn)，67%的受訪者計(jì)劃在未來12個(gè)月內(nèi)將部分AI數(shù)據(jù)遷移到非云端環(huán)境。調(diào)查顯示，除了成本可預(yù)測性和數(shù)據(jù)隱私擔(dān)憂外，遷移的主要原因還包括安全問題和與SaaS環(huán)境的云集成挑戰(zhàn)。

Whalen說，對于運(yùn)行穩(wěn)定AI工作負(fù)載的企業(yè)來說，通過購買幾個(gè)GPU或在其私有云提供商處安裝幾個(gè)GPU來節(jié)省資金，而不是在公有云中租用時(shí)間。他堅(jiān)稱，如果IT領(lǐng)導(dǎo)者能夠準(zhǔn)確估計(jì)他們的需求，那么內(nèi)部的GPU將會(huì)得到充分利用，幾乎沒有閑置時(shí)間。

他說：“如果你真的在進(jìn)行微調(diào)，或者即使你只是想定制一個(gè)RAG(檢索增強(qiáng)生成)模型，你可能需要連續(xù)數(shù)小時(shí)的GPU計(jì)算?！薄凹词乖趯?shí)際評估模型和運(yùn)行模型時(shí)，你的工作負(fù)載也不會(huì)非常波動(dòng)?！?/p>

Whalen表示，他很少看到有企業(yè)因GPU使用不足而自行運(yùn)行GPU的情況。

他補(bǔ)充道：“如果有人說，‘你有一個(gè)GPU，但你可能只使用它10%的時(shí)間’，根據(jù)我們的經(jīng)驗(yàn)，情況并非如此。”“你會(huì)發(fā)現(xiàn)用它來做很多事情，而且往往大部分工作負(fù)載都是訓(xùn)練，這是非常連續(xù)的，你是在可預(yù)測的時(shí)間段內(nèi)運(yùn)行的?！?/p>

私有云支出增長

雖然Prove AI的調(diào)查顯示了對本地計(jì)算的興趣，但另一項(xiàng)調(diào)查顯示，即使在公有云支出以較低速率增長的同時(shí)，私有云支出也出現(xiàn)了顯著增長。

為網(wǎng)絡(luò)和安全提供商GTT Communications進(jìn)行的調(diào)查顯示，計(jì)劃在公有云上花費(fèi)超過1000萬美元的企業(yè)數(shù)量在2024年至2025年間增長了12%。

但根據(jù)調(diào)查，計(jì)劃在私有云服務(wù)上花費(fèi)超過1000萬美元的受訪者比例增長更快，從2023年的36%增長到2024年的43%，再到2025年的54%，這是公有云大額支出者增長速度的兩倍。

GTT發(fā)現(xiàn)，現(xiàn)在超過一半的AI工作負(fù)載位于私有云和本地部署環(huán)境的組合中，安全、合規(guī)以及AI工作負(fù)載的特定需求是尋求公有云替代方案的主要原因。

GTT負(fù)責(zé)戰(zhàn)略和技術(shù)采用的副總裁Bastien Aerni表示，監(jiān)管和合規(guī)問題是推動(dòng)采用私有云或本地部署解決方案的主要因素。許多公司正在將其敏感工作負(fù)載轉(zhuǎn)移到私有云，作為支持代理AI和其他復(fù)雜AI計(jì)劃的更廣泛的多云和混合策略的一部分，他補(bǔ)充道。

Aerni說：“大多數(shù)時(shí)候，AI都會(huì)涉及到機(jī)密數(shù)據(jù)或業(yè)務(wù)關(guān)鍵數(shù)據(jù)?！薄澳敲?，關(guān)于架構(gòu)以及工作負(fù)載應(yīng)該是公共的還是私有的，甚至是本地的思考，就成了一個(gè)真正的問題?！?/p>

他表示，公有云仍然為AI項(xiàng)目提供了最大的可擴(kuò)展性，并且近年來，CIO們被那里提供的眾多額外功能所說服。

“在五年前我與一些CIO的交談中，他們會(huì)提到，‘有很多功能，很多工具，’”Aerni補(bǔ)充道?！艾F(xiàn)在，當(dāng)我進(jìn)行同樣的交談時(shí)，他們會(huì)說，‘實(shí)際上，我現(xiàn)在并不怎么使用那些工具。’他們都在尋找穩(wěn)定性和可預(yù)測性?！?/p>

小規(guī)模遷移

其他云和AI專家并未看到從公有云的大規(guī)模遷移，由于AI的高計(jì)算需求，公有云仍在增長。云咨詢公司Zoi North America的董事總經(jīng)理Danilo Kirschner表示，仍有很大比例的企業(yè)在使用混合云模型。

他說，雖然正在發(fā)生數(shù)據(jù)回遷，但企業(yè)并沒有完全放棄公有云。

Kirschner說：“矛盾顯而易見：AI工作負(fù)載既在推動(dòng)巨大的云增長，又在同時(shí)推動(dòng)選擇性數(shù)據(jù)回遷，因?yàn)槭袌鰯U(kuò)張如此迅速，以至于同時(shí)容納了多種部署模型。”“我們所看到的是從天真的‘一切上云’策略向智能的、針對特定工作負(fù)載的決策的成熟轉(zhuǎn)變。”

C4 Technology Services(一家IT人員配置咨詢公司)的首席AI官Zac Engler也看到了同樣的趨勢。

“我們并沒有看到從云端的大規(guī)模遷移，”他說，“更像是公司正在悄悄地帶著它們最有價(jià)值的AI工作負(fù)載從側(cè)門溜走。”

他補(bǔ)充道，對數(shù)據(jù)的信任、成本和數(shù)據(jù)控制又回到了董事會(huì)日程上，并影響著AI工作負(fù)載運(yùn)行和數(shù)據(jù)存儲(chǔ)位置的決策。

Engler說：“公有云仍然非常適合進(jìn)行實(shí)驗(yàn)、快速擴(kuò)展以及在董事會(huì)展示中給人留下深刻印象?！薄暗牵?dāng)涉及到專有數(shù)據(jù)、合規(guī)性或不必要的資金消耗時(shí)，本地部署和私有設(shè)置就開始變得更有意義了。”