隨著AI的使用、創(chuàng)新和監(jiān)管混亂超過認(rèn)可的標(biāo)準(zhǔn)，IT領(lǐng)導(dǎo)者只能開發(fā)內(nèi)部方法來減輕AI風(fēng)險，依靠框架、工具和他們的同事來正確使用AI。

隨著越來越多的生成式AI項目從概念驗證轉(zhuǎn)向生產(chǎn)，CIO將承擔(dān)額外的壓力，制定AI治理政策來保護(hù)企業(yè)以及其工作。

美國政府、歐盟、以及頂級市場研究人員并不缺乏AI治理框架，但毫無疑問，隨著生成式AI創(chuàng)新速度超過正式標(biāo)準(zhǔn)，CIO們將需要在2025年制定和完善內(nèi)部AI治理政策——并讓整個高管團(tuán)隊參與這一過程，以確保他們不會孤軍奮戰(zhàn)，觀察人士這樣表示。

這方面也存在著司法不平衡的情況。

“根據(jù)2024年2月的一項調(diào)查，在負(fù)責(zé)任的AI政策制定和行為準(zhǔn)則的制定方面，美國組織與歐洲組織不相上下，但在建立歐盟AI法案建議的多學(xué)科/跨部門治理委員會方面落后于歐洲組織，”IDC研究總監(jiān)Grace Trinidad表示，她敦促CIO們不要獨自承擔(dān)AI治理的責(zé)任。

例如，IDC建議把NIST AI Risk Management Framework管理框架作為適當(dāng)?shù)臉?biāo)準(zhǔn)，幫助CIO在內(nèi)部制定AI治理策略，以及歐盟AI ACT規(guī)定，Trinidad表示，他在“IDC PeerScape：保護(hù)AI模型和應(yīng)用的實踐”報告中引用了AI治理某些方面的最佳實踐。

Trinidad指出，有CIO承認(rèn)實施AI治理的方法是多種多樣的，大多數(shù)CIO已經(jīng)開始實施至少一些計劃，盡管并非所有計劃都已經(jīng)到位。

為此，網(wǎng)絡(luò)公司Ciena首席數(shù)字信息官Craig Williams表示，該公司已經(jīng)成立了AI工作組來解決治理挑戰(zhàn)。

他說：“我不認(rèn)為未來AI治理會是由單個實體或政府本身負(fù)責(zé)的——這太具挑戰(zhàn)性了。然而，企業(yè)需要建立自己的治理流程，以確保端到端問責(zé)制。我們認(rèn)識到AI系統(tǒng)需要透明度、公平性和問責(zé)制。因此，我們竭盡全力確保讓利益相關(guān)者參與到治理流程中。”

專家和IT領(lǐng)導(dǎo)者表示，這種跨職能的努力是關(guān)鍵。

Williams表示：“治理實際上是相互傾聽和學(xué)習(xí)，因為我們都關(guān)心結(jié)果，但同樣重要的是，我們?nèi)绾潍@得結(jié)果本身。一旦你跨過那座橋梁，你就可以快速轉(zhuǎn)向AI工具和實際項目本身，這更容易操作。”

隨著AI創(chuàng)新蓬勃發(fā)展，TruStone Financial Credit Union也在努力建立一個全面的AI治理計劃。

TruStone執(zhí)行副總裁、首席技術(shù)官Gary Jeter表示：“每周都在涌現(xiàn)新的生成式AI平臺和功能。當(dāng)我們發(fā)現(xiàn)的時候會阻止訪問，直到我們能夠徹底評估我們控制的有效性，”他舉例說，他之前曾決定阻止訪問Google NotebookLM以評估其安全性。

和很多企業(yè)一樣，TruStone已經(jīng)部署了一個名為TruAssist的生成式AI平臺，這個全公司范圍使用的平臺主要用于制定政策和程序。

Jeter說：“所有[大約] 560名團(tuán)隊成員都在使用這個AI工具，快速訪問500多項政策和程序，大大節(jié)省了時間，帶來了巨大的價值。我們在2023年11月啟動了價值證明試點，并在2024年2月向所有團(tuán)隊成員推廣，這個速度非?？?，我們學(xué)到了很多東西。我們采取了更保守的方法，利用生成式AI開發(fā)面向團(tuán)隊成員的應(yīng)用，但我們正在取得進(jìn)展?！?/p>

AI治理框架和平臺

另一家大型企業(yè)Travelers的高級副總裁、首席技術(shù)和運營官Mojgan Lefebvre表示，Travelers公司一直在開發(fā)自己的AI治理戰(zhàn)略。

Lefebvre說：“作為Travelers治理框架不斷發(fā)展和成熟的一部分，我們還打造了一個負(fù)責(zé)任的AI框架，這個框架提出了指導(dǎo)我們開發(fā)和使用AI、高級分析和建模的基本原則，目標(biāo)是幫助確保我們以負(fù)責(zé)任和合乎道德的方式行事——符合我們業(yè)務(wù)和文化核心的、負(fù)責(zé)任的商業(yè)價值觀?！?/p>

有觀察人士指出，AI治理不僅要保護(hù)企業(yè)免受數(shù)據(jù)泄露或知識產(chǎn)權(quán)盜竊，還要使成本與預(yù)算保持一致。

GAI Insights首席執(zhí)行官、首席分析師Paul Baier表示，IT領(lǐng)導(dǎo)者應(yīng)該“非常務(wù)實、謹(jǐn)慎而緩慢地將生成式AI應(yīng)用推向生產(chǎn)，因為高管和IT部門仍在學(xué)習(xí)如何管理企業(yè)應(yīng)用的風(fēng)險，而且實際成本會隨著使用而上升”。

Baier表示，增加生成式AI風(fēng)險和成本的另一個因素是“大多數(shù)組織中存在大量‘影子IT’，因為員工使用個人賬戶使用ChatGPT等工具來處理企業(yè)數(shù)據(jù)”。

Gartner表示，企業(yè)組織可以控制AI使用的一種方法是實施AI治理平臺，Gartner將AI技術(shù)確定為2025年的第二大戰(zhàn)略趨勢，并預(yù)測到2028年，與那些沒有AI系統(tǒng)的組織相比，實施了AI治理平臺的組織與AI相關(guān)道德事件少了40%。

Gartner聲稱，AI治理平臺的好處包括創(chuàng)建、管理和執(zhí)行“確保負(fù)責(zé)任地使用AI的政策，解釋AI系統(tǒng)的工作原理，模擬生命周期管理，提供透明度以建立信任和問責(zé)制”。

挑戰(zhàn)是什么？Gartner表示：“AI指南因地區(qū)和行業(yè)而異，很難形成一致的做法?！?/p>

未來的挑戰(zhàn)

有觀察人士表示，CIO還需要調(diào)整能夠適應(yīng)未來變化的AI治理框架，特別是如果出現(xiàn)“有能力的AI”（ACI）。

“我們正在評估哪種AI使用政策最適合我們現(xiàn)在的需求，并采用一種能夠在我們前進(jìn)和學(xué)習(xí)尚不知道的東西時提供靈活性的模型。” Baptist Memorial Health Care首席信息數(shù)據(jù)官Tom Barnett說。

這將帶來什么結(jié)果還是一個很大的未知數(shù)，尤其是考慮到過去兩年中AI取得的進(jìn)展，使這個問題復(fù)雜化的，不僅是正在出現(xiàn)復(fù)雜的AI法規(guī)，還有商業(yè)模式和市場本身的變化。

兩年前ChatGPT首次亮相的時候，OpenAI創(chuàng)始人認(rèn)為，生成式AI需要得到妥善管理，這是OpenAI成為非營利組織的一個關(guān)鍵原因。從那時起，除兩位創(chuàng)始人外，其他創(chuàng)始人均已離職，OpenAI正在努力將其核心業(yè)務(wù)重組為一家不再受非營利董事會控制的營利性公司。

Gartner負(fù)責(zé)云、邊緣和AI基礎(chǔ)設(shè)施技術(shù)和服務(wù)的副總裁Sid Nag表示，自2021年以來，NIST的AI Safety Institute Consortium and Center for Responsible AI在AI治理方面取得了進(jìn)展，但目前還沒有獲得批準(zhǔn)的監(jiān)管標(biāo)準(zhǔn)來指導(dǎo)CIO，因此CIO們正在面臨著越來越大的壓力，需要他們走出實驗階段，轉(zhuǎn)而從大手筆投資生成式AI平臺和工具中獲利。

他強(qiáng)調(diào)，沒有一份文件能夠涵蓋風(fēng)險的所有方面，也沒有明確的權(quán)力來強(qiáng)制使用每天都在發(fā)展的生成式AI。“AI就像一列失控的火車，每個人都想從中賺錢，”他說。

盡管如此，很少看到CIO或高管層對AI治理不屑一顧。無論企業(yè)大小，他們都很清楚，生成式AI落入不當(dāng)之手可能會帶來災(zāi)難。

醫(yī)療設(shè)備租賃公司US Med-Equip的首席執(zhí)行官Antonio Marin表示，AI使他的公司能夠快速發(fā)展，但在治理方面，所有人都必須做好準(zhǔn)備。

Marin表示：“我們正在將AI治理作為數(shù)據(jù)和網(wǎng)絡(luò)安全治理的一部分?！彼a充說，當(dāng)POC從沙盒轉(zhuǎn)移到生產(chǎn)中時，風(fēng)險就會激增。“在某些情況下，我們的高管層把AI視為解決某些流程問題的方法。他們把AI視為獲得市場份額或降低運營成本、同時保持高質(zhì)量客戶體驗和卓越運營的機(jī)會?！?/p>

TruStone的Jeter預(yù)計，未來在適當(dāng)?shù)臅r候，監(jiān)督成為一項法律和監(jiān)管要求?！拔覍彶閱T和內(nèi)部/外部審計師視為合作伙伴，他們有著與我們的價值觀一致的共同目標(biāo)。因此，我沒有任何擔(dān)憂。”