隨著代理型AI以驚人的速度發(fā)展，以下是選擇AI代理構(gòu)建平臺(tái)的一些建議，以便你和你的團(tuán)隊(duì)以及供應(yīng)商能夠同時(shí)實(shí)現(xiàn)創(chuàng)新。

作為CIO，今年你的IT團(tuán)隊(duì)可能正在從評(píng)估和部署獨(dú)立的第三方AI軟件包，迅速轉(zhuǎn)向在整個(gè)客戶(hù)端和內(nèi)部業(yè)務(wù)應(yīng)用中集成自定義AI代理，以實(shí)現(xiàn)更進(jìn)一步的自動(dòng)化和生產(chǎn)效率。

他們可能正在使用至少一個(gè)AI代理構(gòu)建平臺(tái)，甚至可能同時(shí)使用多個(gè)。由于所有AI工具，包括AI代理構(gòu)建平臺(tái)，都在不斷創(chuàng)新和更新，通常每天如此，因此在選擇這些工具并確定一個(gè)將成為你首選平臺(tái)時(shí)，值得記住一些事情。鑒于此，以下是一些需要考慮的更精細(xì)的要點(diǎn)，這些要點(diǎn)超越了功能和定價(jià)的基本層面，但仍然可能是成功的重要決定因素。

評(píng)估代理構(gòu)建環(huán)境

如果我們從代理構(gòu)建環(huán)境本身開(kāi)始，代理供應(yīng)商往往是在學(xué)習(xí)和創(chuàng)新的過(guò)程中。他們通常對(duì)大型語(yǔ)言模型(LLM)提供商和模型了如指掌，并了解一個(gè)模型相對(duì)于另一個(gè)模型的優(yōu)缺點(diǎn)，然而，他們?cè)谟脩?hù)界面(UI)和以客戶(hù)為中心地看待其構(gòu)建環(huán)境方面可能技能較少。他們的整個(gè)工作室可能會(huì)經(jīng)常發(fā)生變化，因此你可能會(huì)同時(shí)創(chuàng)建代理并遷移到其工作室的新版本。

確保他們的環(huán)境直觀(guān)易用，方便你測(cè)試代理，并為代理提供增強(qiáng)選項(xiàng)，如短期和長(zhǎng)期記憶。此外，還應(yīng)具備負(fù)責(zé)任的AI功能——反思、現(xiàn)實(shí)性和上下文相關(guān)性——以及安全的AI功能——公平性和偏見(jiàn)、毒性檢查、人機(jī)協(xié)作和個(gè)人信息保護(hù)(PII)刪除。你還希望一目了然地查看你訂閱中使用的積分，以及增值功能，如使用AI改進(jìn)代理的角色和指令的能力。

全面的API文檔

在你的AI代理構(gòu)建平臺(tái)中構(gòu)建代理后，下一步是使用API調(diào)用將這些代理實(shí)施到你自己的應(yīng)用程序中。在API級(jí)別尋找豐富的文檔，以及解釋在即時(shí)配置代理時(shí)的順序等更高級(jí)別的信息。清晰的文檔可以幫助你自己的IT團(tuán)隊(duì)快速上手，并學(xué)習(xí)從環(huán)境設(shè)置到RAG(代表、屬性和關(guān)系)創(chuàng)建和訓(xùn)練，再到代理創(chuàng)建，以及代理交互和查詢(xún)所需的順序。

他們還需要清晰的文檔來(lái)了解如何監(jiān)控和報(bào)告令牌使用情況，以及如何監(jiān)控和顯示歷史查詢(xún)、AI代理和安全性能，以及與其他系統(tǒng)的集成。擁有這些信息通?？梢詼p半你的開(kāi)發(fā)和測(cè)試時(shí)間，因?yàn)槟愕腎T團(tuán)隊(duì)和代理提供商之間解決問(wèn)題和疑問(wèn)的來(lái)回溝通會(huì)大大減少。

獲取專(zhuān)業(yè)服務(wù)和支持

由于代理構(gòu)建環(huán)境因持續(xù)創(chuàng)新而不斷變化，重要的是你的供應(yīng)商擁有專(zhuān)業(yè)服務(wù)和支持，以便他們可以幫助你的團(tuán)隊(duì)在實(shí)施過(guò)程中建立信心并建立信任。

尋找慷慨提供支持的供應(yīng)商，并愿意與你的團(tuán)隊(duì)合作，將你的代理推向終點(diǎn)。如果你能夠接觸到領(lǐng)導(dǎo)團(tuán)隊(duì)，那就更好了，他們可以就如何最好地利用其平臺(tái)以及利用各種計(jì)劃(如AWS合作伙伴關(guān)系和他們自己的附屬計(jì)劃)提供戰(zhàn)略建議。

確保系統(tǒng)正常運(yùn)行時(shí)間

AI代理基礎(chǔ)設(shè)施的系統(tǒng)正常運(yùn)行時(shí)間通?？梢酝ㄟ^(guò)API調(diào)用進(jìn)行監(jiān)控，這對(duì)于成功部署至關(guān)重要。由于許多AI代理構(gòu)建平臺(tái)都是初創(chuàng)企業(yè)，你可能會(huì)發(fā)現(xiàn)，隨著他們遷移到平臺(tái)的新版本或?qū)PI及其代理、RAG和工具環(huán)境進(jìn)行其他更改，環(huán)境可能會(huì)偶爾出現(xiàn)停機(jī)。

尋找內(nèi)置方式來(lái)監(jiān)控這一點(diǎn)，例如通過(guò)API調(diào)用或你可以輕松聯(lián)系公司人員進(jìn)行故障排除的方式。在AI代理性能監(jiān)控方面，你需要查看響應(yīng)時(shí)間和準(zhǔn)確性，以及代理可用性。在錯(cuò)誤率方面，請(qǐng)檢查代理遇到的錯(cuò)誤頻率和類(lèi)型，如錯(cuò)誤響應(yīng)、幻覺(jué)和檢索信息時(shí)的錯(cuò)誤。在某些情況下，代理只是失去了上下文，因此重要的是要查看短期和長(zhǎng)期記憶等設(shè)置，并找出代理在其上下文記憶中保留了多少推斷。

探索產(chǎn)品路線(xiàn)圖

在清除構(gòu)建和部署生產(chǎn)級(jí)代理的先前考慮因素后，你還想探索供應(yīng)商的產(chǎn)品路線(xiàn)圖。例如，如果他們的代理提供文本輸出，他們是否有計(jì)劃轉(zhuǎn)向多模態(tài)，包括音頻、圖像和視頻?這是否是你自己的部署中可能需要的功能?

對(duì)第三方工具和集成的支持也將至關(guān)重要。例如，如果供應(yīng)商代理提供與X的社交媒體帖子集成，他們是否有計(jì)劃支持LinkedIn?他們?cè)谕瞥鲂鹿δ軙r(shí)是否有現(xiàn)成的示例?

好消息是，AI代理構(gòu)建平臺(tái)每天都在變得更好，擁有更直觀(guān)的界面、更豐富的文檔、更多的集成和更多的用例。創(chuàng)新的步伐令人瞠目結(jié)舌，創(chuàng)始人往往在天亮前就開(kāi)始工作，只是為了跟上步伐。如果你與一個(gè)強(qiáng)大的AI代理構(gòu)建平臺(tái)合作，你可以解放你的IT團(tuán)隊(duì)，讓他們少關(guān)注AI基礎(chǔ)架構(gòu)，多關(guān)注業(yè)務(wù)規(guī)則、用戶(hù)界面和集成，這將使你的代理實(shí)施取得成功。