加入AI的潮流可能會適得其反，但發(fā)展過慢也不是明智之舉，找到最理想的速度，要取決于一系列因素，首先是健康的風(fēng)險偏好。

談到AI，錯失機會的恐懼是真實存在的。根據(jù)Coleman Parkes Research代表Riverbed進行的研究，有91%的大企業(yè)決策者擔(dān)心，如果他們的競爭對手在AI方面取得領(lǐng)先，就將占據(jù)優(yōu)勢。因此，幾乎每位受訪者都表示，在未來18個月內(nèi)，他們將使用、測試或規(guī)劃與AI相關(guān)的項目。

根據(jù)標普全球市場情報公司9月份發(fā)布的一項調(diào)查顯示，AI的采用率空前高漲，使生成式AI現(xiàn)在已經(jīng)超越了企業(yè)中采用的其他所有AI應(yīng)用。有近四分之一（24%）的企業(yè)組織已經(jīng)把生成式AI作為整個組織的一項綜合能力，有37%的企業(yè)組織已經(jīng)把生成式AI投入生產(chǎn)，但尚未完全擴展開來。

Forrester Research分析師Alla Valente表示：“FOMO絕對是真實存在的，尤其看到每個組織都有某種AI戰(zhàn)略時，而且行動過快也存在危險，包括負面公關(guān)、合規(guī)或網(wǎng)絡(luò)安全風(fēng)險、法律責(zé)任，甚至集體訴訟。

即使生成式AI結(jié)果失敗沒有達到引起公眾尷尬或訴訟的程度，但仍會抑制企業(yè)的風(fēng)險偏好，使其不愿啟動更多的AI項目。

“那些不愿意在生成式AI方面冒險的企業(yè)組織，將無法快速發(fā)展或創(chuàng)新，長期來看將遭受損失。即使在中期，他們的市場份額也會被競爭對手搶走，”Valente說。

這并不意味著立即在各個方面部署生成式AI。

她說：“企業(yè)真的需要考慮‘金發(fā)姑娘’的方法，對他們來說就是要‘恰到好處’，意味著要考慮他們的風(fēng)險偏好、風(fēng)險管理成熟度和生成式AI治理框架。”

讓AI遠離公眾

企業(yè)應(yīng)該謹慎行事的其中一個方面，就是在面向公眾的項目中采用生成式AI。

自2022年底ChatGPT推出以來，很多企業(yè)都因為部署過快而陷入困境。一家航空公司的聊天機器人給了一位客戶不該給的折扣，法院判定該航空公司負有責(zé)任。谷歌的AI告訴用戶要在披薩上涂膠水，以防止奶酪滑落。最近，埃隆·馬斯克的Grok AI被發(fā)現(xiàn)傳播有關(guān)選舉的錯誤信息，迫使五位國務(wù)卿向母公司X發(fā)出一封公開信，要求修復(fù)這種聊天機器人。

這使得一些企業(yè)不愿將他們的AI公之于眾。相反，他們會把這項技術(shù)重點聚焦在內(nèi)部運營上，這樣即使出現(xiàn)問題，仍然可以發(fā)揮有意義的作用，而不會造成巨大的公關(guān)災(zāi)難。

例如，財富1000強科技咨詢企業(yè)Connection正在內(nèi)部使用AI進行一些項目，例如基于Fisent的流程自動化解決方案BizAI支持的工作流程，用于將客戶采購訂單與銷售記錄進行比較，提供建議是否應(yīng)批準訂單。

Connection使用Pega Platform根據(jù)業(yè)務(wù)規(guī)則和邏輯管理公司多個領(lǐng)域的工作流程，以智能地推動工作。現(xiàn)在借助BizAI，Connection就可以進行數(shù)字化以及關(guān)鍵業(yè)務(wù)流程的自動化。

“我們每年從很多尚未與我們進行電子整合的中小型企業(yè)那里獲得50000到60000份不同的客戶采購訂單，”Connection公司流程優(yōu)化和轉(zhuǎn)型高級總監(jiān)Jason Burns說道。

例如，這些客戶可能會將PDF、電子表格、圖像文件或其他類型的文檔附加到電子郵件中，或者將采購訂單直接粘貼到電子郵件正文中。

“在采用AI之前，審核過程都是手動的，需要人工地把采購訂單硬拷貝與我們系統(tǒng)中的條目進行比較?！惫緝?nèi)有大約有十幾個人從事這項工作，由于文件堆積如山，從訂單到達到有人能夠查看并做出決定，通常需要長達四個小時的時間。而采用了生成式AI進行初步比較和建議之后，周轉(zhuǎn)時間現(xiàn)在僅為兩分鐘。

例如，生成式AI可以幫助確定訂單是否是發(fā)送給Connection的；有時客戶會錯誤地將采購訂單發(fā)送給錯誤的供應(yīng)商。生成式AI還會檢查地址是否匹配，而這對于以前的AI來說是很難做到的。生成式AI還會把有關(guān)客戶想要產(chǎn)品的描述與Connection內(nèi)部SKU進行匹配。

Burns說：“我們的客戶不知道我們的內(nèi)部SKU，他們可能會以一種方式描述產(chǎn)品，我們可能會以另一種方式描述產(chǎn)品，而我們的AI則能夠非常有效地將兩者關(guān)聯(lián)起來?！?/p>

他補充說，AI被設(shè)置為比人類更保守。如果有任何不清楚的地方，它就會默認返回進行人工審核。由于AI只處理呈現(xiàn)給它的信息，不會生成新的內(nèi)容，只是提出簡單的建議，因此幻覺的幾率也被降到了最低。

Burns說：“到目前為止，我們還沒有遇到過AI建議將訂單移至下游而人類審核員不同意的情況?！备赡艿那闆r是，AI會拖延訂單以供人工審核，而人工審核人員表示可以繼續(xù)執(zhí)行?！拔覀儼l(fā)現(xiàn)AI的可靠性比我們最初預(yù)期的還要高，甚至我們正在考慮如何讓AI放松下來，對文檔的批評少一點?！?/p>

Connection下一步的計劃是在十幾個其他類似的內(nèi)部用例中部署AI，并幫助生成代碼、寫信和總結(jié)會議。Burns說：“潛在生產(chǎn)力的提升是巨大的，我們需要在這方面繼續(xù)探索。”

但考慮到額外的風(fēng)險，Connection目前尚未開發(fā)面向客戶的AI。他說：“談到AI，風(fēng)險承受能力確實是當(dāng)務(wù)之急。我們認識到了AI的巨大潛力，但首要任務(wù)是我們的客戶、他們的數(shù)據(jù)和安全，以及提供出色的成果。技術(shù)會隨著時間的推移而發(fā)展，我們也會隨之發(fā)展前進。”

讓人類參與其中

TaskUs是一家擁有約50000名員工的業(yè)務(wù)流程外包商，該公司也把AI納入到了公司內(nèi)部，但主要集中于有人在場以發(fā)現(xiàn)任何問題的場景。

“我們不希望AI是自行發(fā)展的，”TaskUs公司首席信息官Chandra Venkataramani說。

該公司創(chuàng)建了一個名為TaskGPT的內(nèi)部平臺，幫助員工為客戶提供支持，并且已經(jīng)看到效率提高了15%至35%。AI也開始用于內(nèi)部自動化和其他生產(chǎn)力效益。

Venkataramani舉了加拿大航空公司的例子，稱他們的聊天機器人向客戶承諾折扣，但公司拒絕了，后來被迫兌現(xiàn)。這是一個警示性的例子，說明了面向公眾的AI為何如此危險。相反，這些工具目前主要被用來幫助為人們提出建議和推薦。

他說：“這樣，團隊就可以控制它，他們可以說，‘這聽起來不對勁。我不會把它發(fā)給我的客戶?！斯じ深A(yù)非常重要。”因此，他正在推動內(nèi)部團隊更多地使用AI，但只是為了提高效率?！拔覀冋谕苿游覀兊目蛻舨捎肁I，但我們不會魯莽地使用它。如果我們能獲得20%的改善和100%的安全，或者30%/40%的改善但并不安全，我們會選擇前者，安全和保障是我們最關(guān)心的問題?！?/p>

事實上，很多AI問題都可以通過人工監(jiān)督來避免。Champlain College在線運營副總裁Christa Montagnino說：“幻覺是會發(fā)生的，AI經(jīng)過訓(xùn)練是為了取悅我們，不一定完全準確?！痹搶W(xué)院一直在使用生成式AI來幫助教學(xué)設(shè)計師和學(xué)科專家打造在線課程。她說，過去這個過程很麻煩，教師不一定接受過教育設(shè)計方面的培訓(xùn)，他們要和教學(xué)設(shè)計師配合工作。一門為期七周的課程需要大約15周的時間才能完成，但有了AI之后，時間就縮短了一半。

盡管如此，人為因素仍然是這個過程中的關(guān)鍵部分。她說：“我們現(xiàn)在從生成式AI開始，然后讓主題專家與教學(xué)設(shè)計師一起工作，他們是這些信息的編輯；他們帶來對學(xué)生有意義的東西，以及其中需要包含的資源?！?/p>

她說，加入AI還可以減少一些常規(guī)管理任務(wù)和負擔(dān)，使教師能夠花更多時間和學(xué)生在一起。

然而，幫助企業(yè)處理工傷事故的Company Nurse公司卻吃了苦頭。該公司使用AI自動化了QA流程，那些為客戶組織的員工提供醫(yī)療建議的護士，會立即得到關(guān)于他們在這些通話中做錯什么的反饋。

“我們認為，如果我們能為代理提供更多關(guān)于做錯了的事情的反饋，他們犯的錯誤就會更少?！痹摴臼紫夹g(shù)官Henry Svendblad說。然而，護士們開始辭職，離職率從百分之十幾的低位上升到百分之三十多，這在一定程度上與疫情的開始和大量辭職有關(guān)，但一部分原因是代理們很快就收到了太多的負面反饋。

“我們從代理那里聽到了強烈的反饋，告訴他們在每次互動中犯的每個錯誤，這并沒有帶來積極的工作滿意度，我們看到過這樣的情況，新員工收到設(shè)備后，卻不愿意繼續(xù)工作了，這種情況以前從未發(fā)生過?！?/p>

為了解決這個問題，TaskUs讓人類代理重新參與進來，聘請了一位人力發(fā)展經(jīng)理，開始更多地關(guān)注護士所做的積極方面，而不僅僅是消極方面。“我們在自動化QA方面確實放慢了速度。”

避免敏感信息

Champlain的Montagnino表示，該學(xué)院愿意使用AI來幫助開發(fā)課程內(nèi)容或營銷材料，因為這并不涉及讓AI訪問敏感信息。

但她表示，在處理涉及學(xué)生數(shù)據(jù)的項目時情況并非如此，因此這類舉措將在以后推出?！拔矣X得，我們現(xiàn)在最好的機會在于產(chǎn)品開發(fā)和吸引未來的學(xué)生方面?！?/p>

臨床試驗公司Fortrea最近從LabCorp分拆出來，該公司也在謹慎地選擇隱私風(fēng)險最小的項目，首席信息官Alejandro Martinez-Galindo說：“我們有巨大的機會，可以把臨床試驗提升到一個新的水平。我們最近推出了一個ML和AI工作室，在這個領(lǐng)域我們正在推動創(chuàng)新?！?/p>

例如，F(xiàn)ortrea正在為其技術(shù)堆棧部署微軟的Copilot助手。他說：“它開始像野火一樣蔓延，因為我們在組織中取得了一些有趣的成果，這也是我們?yōu)榻M織帶來的一個智能層。”

該公司已經(jīng)把收集提案請求信息所需的時間縮短了30%。“這給了我們巨大的生產(chǎn)力，而且產(chǎn)品質(zhì)量比過去好得多。”因為AI現(xiàn)在可以從多個孤立的來源獲取信息，但是作為一家醫(yī)療保健組織，F(xiàn)ortrea還必須對他們部署的技術(shù)非常謹慎，以避免存在任何合規(guī)性問題。

“我們必須在創(chuàng)新速度與合規(guī)性、安全性這兩者之間取得平衡，我們是快速的追隨者?！崩?，臨床試驗是非常耗費紙張的，當(dāng)臨床研究助理去一個辦公點的時候，會收集大量的信息。但公司對哪些信息先由AI處理是非?？量痰?。

“我們需要從隱私官那里獲得許可，以確保我們正在構(gòu)建的任何東西都是合規(guī)的，首席安全官對我們的選擇有很大的發(fā)言權(quán)?！?/p>

例如，未來可能會部署一種可以幫助掃描文檔的技術(shù)，這項技術(shù)帶有過濾器以確保不會意外泄露患者信息。但如今，在臨床試驗現(xiàn)場訪問方面，該公司首先關(guān)注的是非敏感類型的信息，例如正在使用的物理設(shè)備。

“我們可以給冰箱拍照，掃描維護的時間和溫度，希望確保設(shè)施內(nèi)所有條件都是到位的?！?/p>

花時間做基礎(chǔ)工作

除了公眾尷尬、客戶或員工流失、法律和合規(guī)責(zé)任外，過快采用生成式AI還存在其他技術(shù)風(fēng)險。

例如，那些在部署AI之前沒有做好充分基礎(chǔ)工作的企業(yè)，可能沒有恰當(dāng)?shù)臄?shù)據(jù)基礎(chǔ)或適當(dāng)?shù)姆雷o措施，或者可能行動過快，無法完全信任單一的供應(yīng)商。

安永美洲區(qū)生成式AI負責(zé)人David Guarrera表示：“企業(yè)組織將面臨很大的風(fēng)險，他們會將自己鎖定在多年支出或承諾上，但一兩年后就會發(fā)現(xiàn)，還有更便宜的、更好的方法?！庇行┙M織在沒有考慮整個企業(yè)的技術(shù)戰(zhàn)略的情況下，就進入了AI領(lǐng)域。

“現(xiàn)在有很多組織正在推出數(shù)十或數(shù)百個原型，他們可能有一個由技術(shù)廠商開發(fā)的合同分析工具，以及一個由首席財務(wù)官辦公室另外開發(fā)的合同分析工具，他們甚至可能彼此都不知道。我們可能會有大量的原型被推出，但無處可去，最終就消失了。”

然后還會浪費金錢。“假設(shè)一個組織有FOMO，購買了一堆GPU，卻沒有問企業(yè)是否真的需要GPU。在這方面投資，可能會讓你錯失在數(shù)據(jù)領(lǐng)域真正需要的東西，這也是一種風(fēng)險。也許你真正需要的是更多的數(shù)據(jù)治理或數(shù)據(jù)清理。”

急于啟動試點并做出草率的支出決定，是因為每個人都很恐慌，想要盡快掌握生成式AI?！暗修k法利用這項技術(shù)，盡量減少未來可能的遺憾，”他補充說。

對于小型初創(chuàng)公司來說，“快速行動，打破常規(guī)”或許是一句不錯的口號，但對于大型組織來說，這句口號并不適用?！澳憧刹粫胱寯?shù)十億美金和你的市場面臨風(fēng)險，”Guarrera說道。