隨著AI的使用、創(chuàng)新和監(jiān)管混亂超過認(rèn)可的標(biāo)準(zhǔn)，IT領(lǐng)導(dǎo)者只能開發(fā)內(nèi)部方法來減輕AI風(fēng)險(xiǎn)，依靠框架、工具和他們的同事來正確使用AI。

隨著越來越多的生成式AI項(xiàng)目從概念驗(yàn)證轉(zhuǎn)向生產(chǎn)，CIO將承擔(dān)額外的壓力，制定AI治理政策來保護(hù)企業(yè)以及其工作。

美國(guó)政府、歐盟、以及頂級(jí)市場(chǎng)研究人員并不缺乏AI治理框架，但毫無疑問，隨著生成式AI創(chuàng)新速度超過正式標(biāo)準(zhǔn)，CIO們將需要在2025年制定和完善內(nèi)部AI治理政策——并讓整個(gè)高管團(tuán)隊(duì)參與這一過程，以確保他們不會(huì)孤軍奮戰(zhàn)，觀察人士這樣表示。

這方面也存在著司法不平衡的情況。

“根據(jù)2024年2月的一項(xiàng)調(diào)查，在負(fù)責(zé)任的AI政策制定和行為準(zhǔn)則的制定方面，美國(guó)組織與歐洲組織不相上下，但在建立歐盟AI法案建議的多學(xué)科/跨部門治理委員會(huì)方面落后于歐洲組織，”IDC研究總監(jiān)Grace Trinidad表示，她敦促CIO們不要獨(dú)自承擔(dān)AI治理的責(zé)任。

例如，IDC建議把NIST AI Risk Management Framework管理框架作為適當(dāng)?shù)臉?biāo)準(zhǔn)，幫助CIO在內(nèi)部制定AI治理策略，以及歐盟AI ACT規(guī)定，Trinidad表示，他在“IDC PeerScape：保護(hù)AI模型和應(yīng)用的實(shí)踐”報(bào)告中引用了AI治理某些方面的最佳實(shí)踐。

Trinidad指出，有CIO承認(rèn)實(shí)施AI治理的方法是多種多樣的，大多數(shù)CIO已經(jīng)開始實(shí)施至少一些計(jì)劃，盡管并非所有計(jì)劃都已經(jīng)到位。

為此，網(wǎng)絡(luò)公司Ciena首席數(shù)字信息官Craig Williams表示，該公司已經(jīng)成立了AI工作組來解決治理挑戰(zhàn)。

他說：“我不認(rèn)為未來AI治理會(huì)是由單個(gè)實(shí)體或政府本身負(fù)責(zé)的——這太具挑戰(zhàn)性了。然而，企業(yè)需要建立自己的治理流程，以確保端到端問責(zé)制。我們認(rèn)識(shí)到AI系統(tǒng)需要透明度、公平性和問責(zé)制。因此，我們竭盡全力確保讓利益相關(guān)者參與到治理流程中?！?/p>

專家和IT領(lǐng)導(dǎo)者表示，這種跨職能的努力是關(guān)鍵。

Williams表示：“治理實(shí)際上是相互傾聽和學(xué)習(xí)，因?yàn)槲覀兌缄P(guān)心結(jié)果，但同樣重要的是，我們?nèi)绾潍@得結(jié)果本身。一旦你跨過那座橋梁，你就可以快速轉(zhuǎn)向AI工具和實(shí)際項(xiàng)目本身，這更容易操作?！?/p>

隨著AI創(chuàng)新蓬勃發(fā)展，TruStone Financial Credit Union也在努力建立一個(gè)全面的AI治理計(jì)劃。

TruStone執(zhí)行副總裁、首席技術(shù)官Gary Jeter表示：“每周都在涌現(xiàn)新的生成式AI平臺(tái)和功能。當(dāng)我們發(fā)現(xiàn)的時(shí)候會(huì)阻止訪問，直到我們能夠徹底評(píng)估我們控制的有效性，”他舉例說，他之前曾決定阻止訪問Google NotebookLM以評(píng)估其安全性。

和很多企業(yè)一樣，TruStone已經(jīng)部署了一個(gè)名為TruAssist的生成式AI平臺(tái)，這個(gè)全公司范圍使用的平臺(tái)主要用于制定政策和程序。

Jeter說：“所有[大約] 560名團(tuán)隊(duì)成員都在使用這個(gè)AI工具，快速訪問500多項(xiàng)政策和程序，大大節(jié)省了時(shí)間，帶來了巨大的價(jià)值。我們?cè)?023年11月啟動(dòng)了價(jià)值證明試點(diǎn)，并在2024年2月向所有團(tuán)隊(duì)成員推廣，這個(gè)速度非常快，我們學(xué)到了很多東西。我們采取了更保守的方法，利用生成式AI開發(fā)面向團(tuán)隊(duì)成員的應(yīng)用，但我們正在取得進(jìn)展?！?/p>

AI治理框架和平臺(tái)

另一家大型企業(yè)Travelers的高級(jí)副總裁、首席技術(shù)和運(yùn)營(yíng)官M(fèi)ojgan Lefebvre表示，Travelers公司一直在開發(fā)自己的AI治理戰(zhàn)略。

Lefebvre說：“作為Travelers治理框架不斷發(fā)展和成熟的一部分，我們還打造了一個(gè)負(fù)責(zé)任的AI框架，這個(gè)框架提出了指導(dǎo)我們開發(fā)和使用AI、高級(jí)分析和建模的基本原則，目標(biāo)是幫助確保我們以負(fù)責(zé)任和合乎道德的方式行事——符合我們業(yè)務(wù)和文化核心的、負(fù)責(zé)任的商業(yè)價(jià)值觀?！?/p>

有觀察人士指出，AI治理不僅要保護(hù)企業(yè)免受數(shù)據(jù)泄露或知識(shí)產(chǎn)權(quán)盜竊，還要使成本與預(yù)算保持一致。

GAI Insights首席執(zhí)行官、首席分析師Paul Baier表示，IT領(lǐng)導(dǎo)者應(yīng)該“非常務(wù)實(shí)、謹(jǐn)慎而緩慢地將生成式AI應(yīng)用推向生產(chǎn)，因?yàn)楦吖芎虸T部門仍在學(xué)習(xí)如何管理企業(yè)應(yīng)用的風(fēng)險(xiǎn)，而且實(shí)際成本會(huì)隨著使用而上升”。

Baier表示，增加生成式AI風(fēng)險(xiǎn)和成本的另一個(gè)因素是“大多數(shù)組織中存在大量‘影子IT’，因?yàn)閱T工使用個(gè)人賬戶使用ChatGPT等工具來處理企業(yè)數(shù)據(jù)”。

Gartner表示，企業(yè)組織可以控制AI使用的一種方法是實(shí)施AI治理平臺(tái)，Gartner將AI技術(shù)確定為2025年的第二大戰(zhàn)略趨勢(shì)，并預(yù)測(cè)到2028年，與那些沒有AI系統(tǒng)的組織相比，實(shí)施了AI治理平臺(tái)的組織與AI相關(guān)道德事件少了40%。

Gartner聲稱，AI治理平臺(tái)的好處包括創(chuàng)建、管理和執(zhí)行“確保負(fù)責(zé)任地使用AI的政策，解釋AI系統(tǒng)的工作原理，模擬生命周期管理，提供透明度以建立信任和問責(zé)制”。

挑戰(zhàn)是什么？Gartner表示：“AI指南因地區(qū)和行業(yè)而異，很難形成一致的做法。”

未來的挑戰(zhàn)

有觀察人士表示，CIO還需要調(diào)整能夠適應(yīng)未來變化的AI治理框架，特別是如果出現(xiàn)“有能力的AI”（ACI）。

“我們正在評(píng)估哪種AI使用政策最適合我們現(xiàn)在的需求，并采用一種能夠在我們前進(jìn)和學(xué)習(xí)尚不知道的東西時(shí)提供靈活性的模型?！?Baptist Memorial Health Care首席信息數(shù)據(jù)官Tom Barnett說。

這將帶來什么結(jié)果還是一個(gè)很大的未知數(shù)，尤其是考慮到過去兩年中AI取得的進(jìn)展，使這個(gè)問題復(fù)雜化的，不僅是正在出現(xiàn)復(fù)雜的AI法規(guī)，還有商業(yè)模式和市場(chǎng)本身的變化。

兩年前ChatGPT首次亮相的時(shí)候，OpenAI創(chuàng)始人認(rèn)為，生成式AI需要得到妥善管理，這是OpenAI成為非營(yíng)利組織的一個(gè)關(guān)鍵原因。從那時(shí)起，除兩位創(chuàng)始人外，其他創(chuàng)始人均已離職，OpenAI正在努力將其核心業(yè)務(wù)重組為一家不再受非營(yíng)利董事會(huì)控制的營(yíng)利性公司。

Gartner負(fù)責(zé)云、邊緣和AI基礎(chǔ)設(shè)施技術(shù)和服務(wù)的副總裁Sid Nag表示，自2021年以來，NIST的AI Safety Institute Consortium and Center for Responsible AI在AI治理方面取得了進(jìn)展，但目前還沒有獲得批準(zhǔn)的監(jiān)管標(biāo)準(zhǔn)來指導(dǎo)CIO，因此CIO們正在面臨著越來越大的壓力，需要他們走出實(shí)驗(yàn)階段，轉(zhuǎn)而從大手筆投資生成式AI平臺(tái)和工具中獲利。

他強(qiáng)調(diào)，沒有一份文件能夠涵蓋風(fēng)險(xiǎn)的所有方面，也沒有明確的權(quán)力來強(qiáng)制使用每天都在發(fā)展的生成式AI。“AI就像一列失控的火車，每個(gè)人都想從中賺錢，”他說。

盡管如此，很少看到CIO或高管層對(duì)AI治理不屑一顧。無論企業(yè)大小，他們都很清楚，生成式AI落入不當(dāng)之手可能會(huì)帶來災(zāi)難。

醫(yī)療設(shè)備租賃公司US Med-Equip的首席執(zhí)行官Antonio Marin表示，AI使他的公司能夠快速發(fā)展，但在治理方面，所有人都必須做好準(zhǔn)備。

Marin表示：“我們正在將AI治理作為數(shù)據(jù)和網(wǎng)絡(luò)安全治理的一部分。”他補(bǔ)充說，當(dāng)POC從沙盒轉(zhuǎn)移到生產(chǎn)中時(shí)，風(fēng)險(xiǎn)就會(huì)激增?！霸谀承┣闆r下，我們的高管層把AI視為解決某些流程問題的方法。他們把AI視為獲得市場(chǎng)份額或降低運(yùn)營(yíng)成本、同時(shí)保持高質(zhì)量客戶體驗(yàn)和卓越運(yùn)營(yíng)的機(jī)會(huì)。”

TruStone的Jeter預(yù)計(jì)，未來在適當(dāng)?shù)臅r(shí)候，監(jiān)督成為一項(xiàng)法律和監(jiān)管要求。“我將審查員和內(nèi)部/外部審計(jì)師視為合作伙伴，他們有著與我們的價(jià)值觀一致的共同目標(biāo)。因此，我沒有任何擔(dān)憂?！?/p>