加入AI的潮流可能會適得其反，但發(fā)展過慢也不是明智之舉，找到最理想的速度，要取決于一系列因素，首先是健康的風險偏好。

談到AI，錯失機會的恐懼是真實存在的。根據Coleman Parkes Research代表Riverbed進行的研究，有91%的大企業(yè)決策者擔心，如果他們的競爭對手在AI方面取得領先，就將占據優(yōu)勢。因此，幾乎每位受訪者都表示，在未來18個月內，他們將使用、測試或規(guī)劃與AI相關的項目。

根據標普全球市場情報公司9月份發(fā)布的一項調查顯示，AI的采用率空前高漲，使生成式AI現(xiàn)在已經超越了企業(yè)中采用的其他所有AI應用。有近四分之一（24%）的企業(yè)組織已經把生成式AI作為整個組織的一項綜合能力，有37%的企業(yè)組織已經把生成式AI投入生產，但尚未完全擴展開來。

Forrester Research分析師Alla Valente表示：“FOMO絕對是真實存在的，尤其看到每個組織都有某種AI戰(zhàn)略時，而且行動過快也存在危險，包括負面公關、合規(guī)或網絡安全風險、法律責任，甚至集體訴訟。

即使生成式AI結果失敗沒有達到引起公眾尷尬或訴訟的程度，但仍會抑制企業(yè)的風險偏好，使其不愿啟動更多的AI項目。

“那些不愿意在生成式AI方面冒險的企業(yè)組織，將無法快速發(fā)展或創(chuàng)新，長期來看將遭受損失。即使在中期，他們的市場份額也會被競爭對手搶走，”Valente說。

這并不意味著立即在各個方面部署生成式AI。

她說：“企業(yè)真的需要考慮‘金發(fā)姑娘’的方法，對他們來說就是要‘恰到好處’，意味著要考慮他們的風險偏好、風險管理成熟度和生成式AI治理框架?！?/p>

讓AI遠離公眾

企業(yè)應該謹慎行事的其中一個方面，就是在面向公眾的項目中采用生成式AI。

自2022年底ChatGPT推出以來，很多企業(yè)都因為部署過快而陷入困境。一家航空公司的聊天機器人給了一位客戶不該給的折扣，法院判定該航空公司負有責任。谷歌的AI告訴用戶要在披薩上涂膠水，以防止奶酪滑落。最近，埃隆·馬斯克的Grok AI被發(fā)現(xiàn)傳播有關選舉的錯誤信息，迫使五位國務卿向母公司X發(fā)出一封公開信，要求修復這種聊天機器人。

這使得一些企業(yè)不愿將他們的AI公之于眾。相反，他們會把這項技術重點聚焦在內部運營上，這樣即使出現(xiàn)問題，仍然可以發(fā)揮有意義的作用，而不會造成巨大的公關災難。

例如，財富1000強科技咨詢企業(yè)Connection正在內部使用AI進行一些項目，例如基于Fisent的流程自動化解決方案BizAI支持的工作流程，用于將客戶采購訂單與銷售記錄進行比較，提供建議是否應批準訂單。

Connection使用Pega Platform根據業(yè)務規(guī)則和邏輯管理公司多個領域的工作流程，以智能地推動工作?，F(xiàn)在借助BizAI，Connection就可以進行數字化以及關鍵業(yè)務流程的自動化。

“我們每年從很多尚未與我們進行電子整合的中小型企業(yè)那里獲得50000到60000份不同的客戶采購訂單，”Connection公司流程優(yōu)化和轉型高級總監(jiān)Jason Burns說道。

例如，這些客戶可能會將PDF、電子表格、圖像文件或其他類型的文檔附加到電子郵件中，或者將采購訂單直接粘貼到電子郵件正文中。

“在采用AI之前，審核過程都是手動的，需要人工地把采購訂單硬拷貝與我們系統(tǒng)中的條目進行比較?！惫緝扔写蠹s有十幾個人從事這項工作，由于文件堆積如山，從訂單到達到有人能夠查看并做出決定，通常需要長達四個小時的時間。而采用了生成式AI進行初步比較和建議之后，周轉時間現(xiàn)在僅為兩分鐘。

例如，生成式AI可以幫助確定訂單是否是發(fā)送給Connection的；有時客戶會錯誤地將采購訂單發(fā)送給錯誤的供應商。生成式AI還會檢查地址是否匹配，而這對于以前的AI來說是很難做到的。生成式AI還會把有關客戶想要產品的描述與Connection內部SKU進行匹配。

Burns說：“我們的客戶不知道我們的內部SKU，他們可能會以一種方式描述產品，我們可能會以另一種方式描述產品，而我們的AI則能夠非常有效地將兩者關聯(lián)起來?！?/p>

他補充說，AI被設置為比人類更保守。如果有任何不清楚的地方，它就會默認返回進行人工審核。由于AI只處理呈現(xiàn)給它的信息，不會生成新的內容，只是提出簡單的建議，因此幻覺的幾率也被降到了最低。

Burns說：“到目前為止，我們還沒有遇到過AI建議將訂單移至下游而人類審核員不同意的情況?！备赡艿那闆r是，AI會拖延訂單以供人工審核，而人工審核人員表示可以繼續(xù)執(zhí)行?！拔覀儼l(fā)現(xiàn)AI的可靠性比我們最初預期的還要高，甚至我們正在考慮如何讓AI放松下來，對文檔的批評少一點。”

Connection下一步的計劃是在十幾個其他類似的內部用例中部署AI，并幫助生成代碼、寫信和總結會議。Burns說：“潛在生產力的提升是巨大的，我們需要在這方面繼續(xù)探索?！?/p>

但考慮到額外的風險，Connection目前尚未開發(fā)面向客戶的AI。他說：“談到AI，風險承受能力確實是當務之急。我們認識到了AI的巨大潛力，但首要任務是我們的客戶、他們的數據和安全，以及提供出色的成果。技術會隨著時間的推移而發(fā)展，我們也會隨之發(fā)展前進?！?/p>

讓人類參與其中

TaskUs是一家擁有約50000名員工的業(yè)務流程外包商，該公司也把AI納入到了公司內部，但主要集中于有人在場以發(fā)現(xiàn)任何問題的場景。

“我們不希望AI是自行發(fā)展的，”TaskUs公司首席信息官Chandra Venkataramani說。

該公司創(chuàng)建了一個名為TaskGPT的內部平臺，幫助員工為客戶提供支持，并且已經看到效率提高了15%至35%。AI也開始用于內部自動化和其他生產力效益。

Venkataramani舉了加拿大航空公司的例子，稱他們的聊天機器人向客戶承諾折扣，但公司拒絕了，后來被迫兌現(xiàn)。這是一個警示性的例子，說明了面向公眾的AI為何如此危險。相反，這些工具目前主要被用來幫助為人們提出建議和推薦。

他說：“這樣，團隊就可以控制它，他們可以說，‘這聽起來不對勁。我不會把它發(fā)給我的客戶。’人工干預非常重要。”因此，他正在推動內部團隊更多地使用AI，但只是為了提高效率?！拔覀冋谕苿游覀兊目蛻舨捎肁I，但我們不會魯莽地使用它。如果我們能獲得20%的改善和100%的安全，或者30%/40%的改善但并不安全，我們會選擇前者，安全和保障是我們最關心的問題。”

事實上，很多AI問題都可以通過人工監(jiān)督來避免。Champlain College在線運營副總裁Christa Montagnino說：“幻覺是會發(fā)生的，AI經過訓練是為了取悅我們，不一定完全準確?！痹搶W院一直在使用生成式AI來幫助教學設計師和學科專家打造在線課程。她說，過去這個過程很麻煩，教師不一定接受過教育設計方面的培訓，他們要和教學設計師配合工作。一門為期七周的課程需要大約15周的時間才能完成，但有了AI之后，時間就縮短了一半。

盡管如此，人為因素仍然是這個過程中的關鍵部分。她說：“我們現(xiàn)在從生成式AI開始，然后讓主題專家與教學設計師一起工作，他們是這些信息的編輯；他們帶來對學生有意義的東西，以及其中需要包含的資源?！?/p>

她說，加入AI還可以減少一些常規(guī)管理任務和負擔，使教師能夠花更多時間和學生在一起。

然而，幫助企業(yè)處理工傷事故的Company Nurse公司卻吃了苦頭。該公司使用AI自動化了QA流程，那些為客戶組織的員工提供醫(yī)療建議的護士，會立即得到關于他們在這些通話中做錯什么的反饋。

“我們認為，如果我們能為代理提供更多關于做錯了的事情的反饋，他們犯的錯誤就會更少。”該公司首席技術官Henry Svendblad說。然而，護士們開始辭職，離職率從百分之十幾的低位上升到百分之三十多，這在一定程度上與疫情的開始和大量辭職有關，但一部分原因是代理們很快就收到了太多的負面反饋。

“我們從代理那里聽到了強烈的反饋，告訴他們在每次互動中犯的每個錯誤，這并沒有帶來積極的工作滿意度，我們看到過這樣的情況，新員工收到設備后，卻不愿意繼續(xù)工作了，這種情況以前從未發(fā)生過?！?/p>

為了解決這個問題，TaskUs讓人類代理重新參與進來，聘請了一位人力發(fā)展經理，開始更多地關注護士所做的積極方面，而不僅僅是消極方面?！拔覀冊谧詣踊疩A方面確實放慢了速度。”

避免敏感信息

Champlain的Montagnino表示，該學院愿意使用AI來幫助開發(fā)課程內容或營銷材料，因為這并不涉及讓AI訪問敏感信息。

但她表示，在處理涉及學生數據的項目時情況并非如此，因此這類舉措將在以后推出?！拔矣X得，我們現(xiàn)在最好的機會在于產品開發(fā)和吸引未來的學生方面。”

臨床試驗公司Fortrea最近從LabCorp分拆出來，該公司也在謹慎地選擇隱私風險最小的項目，首席信息官Alejandro Martinez-Galindo說：“我們有巨大的機會，可以把臨床試驗提升到一個新的水平。我們最近推出了一個ML和AI工作室，在這個領域我們正在推動創(chuàng)新。”

例如，F(xiàn)ortrea正在為其技術堆棧部署微軟的Copilot助手。他說：“它開始像野火一樣蔓延，因為我們在組織中取得了一些有趣的成果，這也是我們?yōu)榻M織帶來的一個智能層。”

該公司已經把收集提案請求信息所需的時間縮短了30%?！斑@給了我們巨大的生產力，而且產品質量比過去好得多?！币驗锳I現(xiàn)在可以從多個孤立的來源獲取信息，但是作為一家醫(yī)療保健組織，F(xiàn)ortrea還必須對他們部署的技術非常謹慎，以避免存在任何合規(guī)性問題。

“我們必須在創(chuàng)新速度與合規(guī)性、安全性這兩者之間取得平衡，我們是快速的追隨者?！崩?，臨床試驗是非常耗費紙張的，當臨床研究助理去一個辦公點的時候，會收集大量的信息。但公司對哪些信息先由AI處理是非?？量痰摹?/p>

“我們需要從隱私官那里獲得許可，以確保我們正在構建的任何東西都是合規(guī)的，首席安全官對我們的選擇有很大的發(fā)言權?！?/p>

例如，未來可能會部署一種可以幫助掃描文檔的技術，這項技術帶有過濾器以確保不會意外泄露患者信息。但如今，在臨床試驗現(xiàn)場訪問方面，該公司首先關注的是非敏感類型的信息，例如正在使用的物理設備。

“我們可以給冰箱拍照，掃描維護的時間和溫度，希望確保設施內所有條件都是到位的?！?/p>

花時間做基礎工作

除了公眾尷尬、客戶或員工流失、法律和合規(guī)責任外，過快采用生成式AI還存在其他技術風險。

例如，那些在部署AI之前沒有做好充分基礎工作的企業(yè)，可能沒有恰當的數據基礎或適當的防護措施，或者可能行動過快，無法完全信任單一的供應商。

安永美洲區(qū)生成式AI負責人David Guarrera表示：“企業(yè)組織將面臨很大的風險，他們會將自己鎖定在多年支出或承諾上，但一兩年后就會發(fā)現(xiàn)，還有更便宜的、更好的方法?！庇行┙M織在沒有考慮整個企業(yè)的技術戰(zhàn)略的情況下，就進入了AI領域。

“現(xiàn)在有很多組織正在推出數十或數百個原型，他們可能有一個由技術廠商開發(fā)的合同分析工具，以及一個由首席財務官辦公室另外開發(fā)的合同分析工具，他們甚至可能彼此都不知道。我們可能會有大量的原型被推出，但無處可去，最終就消失了?！?/p>

然后還會浪費金錢?！凹僭O一個組織有FOMO，購買了一堆GPU，卻沒有問企業(yè)是否真的需要GPU。在這方面投資，可能會讓你錯失在數據領域真正需要的東西，這也是一種風險。也許你真正需要的是更多的數據治理或數據清理。”

急于啟動試點并做出草率的支出決定，是因為每個人都很恐慌，想要盡快掌握生成式AI?！暗修k法利用這項技術，盡量減少未來可能的遺憾，”他補充說。

對于小型初創(chuàng)公司來說，“快速行動，打破常規(guī)”或許是一句不錯的口號，但對于大型組織來說，這句口號并不適用?！澳憧刹粫胱寯凳畠|美金和你的市場面臨風險，”Guarrera說道。