城市AI應(yīng)用的失敗案例:一個(gè)本意美好的市政AI項(xiàng)目是如何荒腔走板的?
編者按:弗林特的這個(gè)案例讓一直在考察 AI 如何落地的我們眼前一亮。因?yàn)橛刑嘧璧K是人之常情,不同的身份,會把技術(shù)放在一個(gè)完全不同的位置。
- 作為技術(shù)工作者,需要對項(xiàng)目效果和成本負(fù)責(zé);
- 作為政府工作者,需要對基建成本與大眾意向(在美國,這意味著選民票數(shù))做出平衡;
- 作為居民,會把自己個(gè)人及家庭的生活體驗(yàn)與安全放在首位。
三者之間,甚至相同身份的不同團(tuán)隊(duì)之間,都存在各種各樣的分歧。
因此,AI 技術(shù)就像是一塊未經(jīng)打磨的原石,你無法確認(rèn)它每一步的鑿砌過程與環(huán)境所施加的作用力,也就無從知曉它最后究竟會變成一把實(shí)用的斧頭,還是一塊只具觀賞性的擺件。
但唯一能確定的是,最后的結(jié)果,往往會脫離最初的本意。
故事始末
在美國密歇根州弗林特的用水問題成為「國民新聞」一千多天后,該市數(shù)以千計(jì)的房屋仍然有含鉛管道,這意味著有毒金屬可以通過管道滲入居民的供水系統(tǒng)。
為了解決這個(gè)問題,政府需要用更安全的銅管替換鉛管。
這聽起來很簡單,但要確定哪些房屋有鉛管卻是個(gè)難題。更困難的是,由于該市的記錄文件不完整且不準(zhǔn)確,挖掘所有管道會耗費(fèi)大量的人力和物力。
顯然,需要自動化的時(shí)候到了。
計(jì)算機(jī)科學(xué)家們在谷歌的資助下,設(shè)計(jì)了一種機(jī)器學(xué)習(xí)模型,用來預(yù)測哪些房屋可能有鉛管。
根據(jù)預(yù)想,人工智能技術(shù)本應(yīng)幫助施工人員只在最有可能含有毒管道的地方進(jìn)行挖掘。
事實(shí)證明,一直到 2017 年,該計(jì)劃也一直在發(fā)揮作用。工人們檢查了 8833 所房屋,其中有 6228 所房屋更換了管道,預(yù)測準(zhǔn)確率達(dá)到 70%。
因此,進(jìn)入 2018 年,該市與一家大型國家工程公司 AECOM 簽署了一份價(jià)值 500 萬美元的合同以「加速」該計(jì)劃的實(shí)施。他們甚至召開了一場活躍的社區(qū)會議,預(yù)示著這支「裝甲部隊(duì)」即將抵達(dá)弗林特。
很少有城市能夠大刀闊斧地實(shí)施管道更換項(xiàng)目,更不用說這座不得不應(yīng)對種族歧視、環(huán)境種族主義以及中西部上游工業(yè)崩潰等種種時(shí)代問題的城市了。
(這里涉及到弗林特這座城市的背景信息:
- 這是一座老牌汽車工業(yè)城市,然而隨著制造業(yè)轉(zhuǎn)移到海外,該城市陷入衰退狀態(tài),而工業(yè)發(fā)展的后遺癥也慢慢顯露出來——輸水系統(tǒng)老化且含鉛量較高;河水污染嚴(yán)重。
- 此外,由于弗林特的非籍人口眾多,水危機(jī)甚至引發(fā)了對弗林特地區(qū)種族歧視的探討,這也讓弗林特的水危機(jī)事件登上過時(shí)代雜志封面,而政府也不得不采用各種辦法應(yīng)對難題。)
目前,弗林特共計(jì)有 18786 個(gè)家庭知曉自家管道安全情況,因?yàn)檫@些管道已經(jīng)被挖出并會被確認(rèn)是否為銅制;若這些管道含鉛或是鍍鋅鋼制,就會被替換成銅的。
「我認(rèn)為事情進(jìn)展得非常順利,」弗林特市市長 Karen Weaver 告訴記者?!肝覀儽扔?jì)劃提前了一年,也沒有超出預(yù)算?!?/p>
然而,就在 2018 年,奇怪的事情發(fā)生了:
隨著越來越多的房屋在 2018 年接受管道評估,被發(fā)現(xiàn)的鉛管數(shù)量越來越少。
相反,2017 年 11 月,當(dāng)?shù)匦侣劽襟w MLive 的 Zahra Ahmad 根據(jù)獲得的會議記錄報(bào)道,該市的公共工程負(fù)責(zé)人曾估計(jì),弗林特約有 10000 間房屋仍有鉛管,與其他專家估算的數(shù)量大致相同。
也就是說,新承包商沒有及時(shí)發(fā)現(xiàn)這些管道。
截至 2018 年 12 月中旬,雖然已勘探了 10531 處房產(chǎn),但其中只有 1567 處需要更換的鉛管。鉛管的勘測準(zhǔn)確率僅為 15%,遠(yuǎn)低于 2017 年的水平。
當(dāng)然,準(zhǔn)確率降低事出有因。
最大的緣由便是 AECOM 不再使用曾預(yù)測挖掘的機(jī)器學(xué)習(xí)模型。
面對一些居民的政治施壓,市長要求該公司挖遍整個(gè)城市的各個(gè)角落和選定街區(qū)的每棟房子,而不是根據(jù)房屋年齡、物業(yè)類型或其他特征而篩選出含鉛管道的房屋。
在項(xiàng)目管理方面投資數(shù)百萬美元之后,弗林特的數(shù)千人仍然居住在帶鉛管的房屋,若采用之前的計(jì)劃,可能已經(jīng)找到并拆除這些鉛管了。
管道更換計(jì)劃成功率的下降已引起該市批評家們的注意。
自然資源保護(hù)委員會(NRDC)是一個(gè)名為「關(guān)注社會行動牧師」的社區(qū)組織代表,該組織在法庭上辯稱,弗林特市似乎已不再執(zhí)行法院下達(dá)的盡快更換鉛管的命令:
既然仍有數(shù)以千計(jì)的房屋有鉛管,現(xiàn)在政府掘地三尺,怎么沒有找到更多呢?
「關(guān)注社會行動牧師」的成員 Allen C. Overton 在 NRDC 聲明中說道:「最重要的是拆除鉛管的數(shù)量,而不是去關(guān)注挖洞的數(shù)量。」
技術(shù)的確在發(fā)揮作用
事實(shí)上,在這個(gè)項(xiàng)目惡化之前,通過 AI 拆除鉛管被傳頌成一個(gè)讓人感覺「生活因高科技而不斷進(jìn)步」的故事。
在 2018 年 10 月的谷歌 AI for Good 會議上,喬治亞理工學(xué)院的計(jì)算機(jī)科學(xué)家 Jacob Abernethy 曾把其描述為一個(gè)志愿者團(tuán)隊(duì)是如何構(gòu)建該系統(tǒng),預(yù)測哪些房屋最有可能有鉛管的畫面。
計(jì)算機(jī)科學(xué)家們發(fā)現(xiàn),城市首要問題是信息問題。
因?yàn)闆]有人能明確的知道哪些房屋有鉛管。
雖然該市有各種各樣的記錄——數(shù)千張描述包裹傳遞情況的舊卡片,還有地圖和多年來被歸檔到系統(tǒng)中的更新信息……
但一個(gè)編目系統(tǒng)的好壞取決于它的維護(hù),而弗林特市幾十年來一直缺乏這類資源。
作為美國汽車工業(yè)核心的關(guān)鍵地區(qū),直到到 20 世紀(jì)中葉,通用汽車在該地區(qū)建造了各種設(shè)施,雇用了大約 8 萬當(dāng)?shù)鼐用瘛?/p>
但是隨著弗林特在汽車行業(yè)中的地位逐漸下降,大多數(shù)白人居民拿著他們賺的錢搬到了郊區(qū),將他們的稅金和資本都從城市中心轉(zhuǎn)移出來。
這些人在較富裕的杰納西縣重新創(chuàng)建了社區(qū),與此同時(shí),弗林特的居民則遭受了經(jīng)濟(jì)轉(zhuǎn)型帶來的困境:
預(yù)算削減、學(xué)校倒閉,以及后工業(yè)時(shí)代普遍出現(xiàn)的環(huán)境問題。
因此,在水危機(jī)爆發(fā)前,審核校對 20 世紀(jì)初的水務(wù)部門記錄并不是政府官員的首要任務(wù)。
后來,在房地產(chǎn)市場崩潰(2008 年金融危機(jī))之后,弗林特的資金運(yùn)轉(zhuǎn)出現(xiàn)問題,為了削減市政成本,密歇根州州長 Rick Snyder 只能派出一名「應(yīng)急」管理員來制定措施。
根據(jù)密歇根州民權(quán)委員會關(guān)于弗林特的一份報(bào)告,密歇根州一半的黑人居民都受到過應(yīng)急管理員管理。
2014 年 4 月,弗林特的應(yīng)急管理員在沒有采取正確腐蝕控制措施的情況下,曾打電話要求將底特律供水系統(tǒng)切換到弗林特河(河水污染嚴(yán)重)。
而這,才是引發(fā)問題的根源。
在試圖解決問題的過程中,技術(shù)專家們發(fā)現(xiàn),許多城市都存在鉛管問題和信息不全面問題。幾十年前建造的基礎(chǔ)設(shè)施的缺陷,不僅體現(xiàn)在金屬應(yīng)用上,還體現(xiàn)在數(shù)據(jù)編目中。
而這些數(shù)據(jù),才能讓城市的政府和居民了解供水系統(tǒng)的狀態(tài)。
在所有關(guān)于智能城市的討論中,許多老城區(qū)的真實(shí)狀態(tài)是——根本不知何為「未雨綢繆」。
自從這座城市經(jīng)歷過繁榮與衰退后,人們一直在說「美國就是 1000 個(gè)弗林特」,現(xiàn)在仍然如此。
就像弗林特含有數(shù)千條含鉛管道一樣,美國有 600 萬條這樣的管道。
當(dāng) 2016 年 3 月啟動更換弗林特含鉛管道的 Fast Start 計(jì)劃時(shí),該市的維修債務(wù)重新浮出水面。Michael McDaniel 將軍被選為該項(xiàng)目的負(fù)責(zé)人,只有一小部分人在他手下工作。
在這里,關(guān)于鉛管分布的一些基本常識需要我們了解:
鉛管最可能出現(xiàn)在戰(zhàn)后弗林特大規(guī)模擴(kuò)張時(shí)建造的房屋中,而在較新的房屋中則最不可能出現(xiàn)。
因此,在 2016 年 2 月,密歇根大學(xué)弗林特分校的 Martin Kaufman 利用城市記錄繪制了一些標(biāo)記鉛管位置圖。
而 McDaniel 的團(tuán)隊(duì)則根據(jù)房屋年齡,以及環(huán)境質(zhì)量部門對最嚴(yán)重水污染所在區(qū)域的粗略判斷,利用這些數(shù)據(jù)對最初的挖掘工作進(jìn)行優(yōu)先排序。
誰會受到水中鉛的影響最大呢?
「嬰兒、老人和免疫系統(tǒng)受損的人,」McDaniel 告訴記者。他們確認(rèn)了有 5 歲以下的孩子和 70 歲以上的老年人的房屋。
結(jié)合這些資料,他們大致了解從哪里入手。McDaniel 開始在 10 個(gè)小區(qū)域內(nèi)更換 600 根鉛管。他說:「這是一個(gè)關(guān)于整個(gè)城市什么是效率,什么是公平的問題?!?/p>
當(dāng) Abernethy 和他的合作者,密歇根大學(xué)的 Eric Schwartz 在 2016 年夏天參與其中時(shí),他們發(fā)現(xiàn)了一個(gè)相似的預(yù)測問題:在不確定條件下的順序決策。
工作人員雖然沒有完全掌握信息,但他們?nèi)匀恍枰业较乱粋€(gè)挖掘地點(diǎn)的最優(yōu)解。每次挖掘的結(jié)果都可以反饋到模型中,從而提高模型準(zhǔn)確性。
最初,他們的數(shù)據(jù)非常少。
2016 年 3 月,只有 36 所房屋的管道被挖掘出來。
當(dāng)工作人員開始數(shù)百次挖掘時(shí),他們也在尋找鉛管,這意味著他們正在創(chuàng)造一個(gè)不具代表性的城市樣本。
僅利用這些數(shù)據(jù),該模型可能會過高估計(jì)弗林特其他地方的含鉛量。
因此,密歇根大學(xué)的團(tuán)隊(duì)要求 Fast Start 使用更廉價(jià)的「hydrovacing」系統(tǒng)檢查整個(gè)城市的線路,該系統(tǒng)使用水流而不是挖掘機(jī)來發(fā)現(xiàn)管道。
而挖掘到的數(shù)據(jù)又反饋到模型中,使研究人員能夠更準(zhǔn)確地預(yù)測城市的各個(gè)區(qū)域的含鉛量。
當(dāng)他們開展工作時(shí),他們發(fā)現(xiàn)「房屋是否有鉛管」的三個(gè)最重要的決定因素是房屋的年齡、價(jià)值和地理位置。
更重要的是,他們的模型在預(yù)測鉛管位置時(shí)變得非常準(zhǔn)確,到 2017 年,承包商發(fā)現(xiàn)鉛管的成功率明顯提高。
「在 2017 年的最后幾個(gè)月里,我們的準(zhǔn)確率提高到 80%以上,」McDaniel 告訴記者。
技術(shù)變質(zhì)的開始
接下來,也就是在 2017 年底,弗林特市與 AECOM 簽訂了一份價(jià)值 500 萬美元的合同,AECOM 是美國主要的項(xiàng)目承包商,負(fù)責(zé)該項(xiàng)目的運(yùn)營。
2018 年 2 月,市政府舉辦了一個(gè)社區(qū)論壇。弗林特公共工程總監(jiān) Robert Bincsik 在論壇上指出,弗林特市正在做一些史無前例的事。
「沒有人像我們一樣積極地做這件事,」Bincsik 說?!缚偟膩碚f,我認(rèn)為我們做得很棒。」
AECOM 計(jì)劃「每年有效地識別和更換 6000 個(gè)含鉛管道」。這個(gè)目標(biāo)是合理的,因?yàn)樵?2017 年,這個(gè)規(guī)模較小、主要由志愿者組成的管理團(tuán)隊(duì)已經(jīng)確定并更換了 6000 多條含鉛管道。
如社區(qū)會議所述,承包商的流程包括兩步。
首先,它將在承包商規(guī)劃的 10 個(gè)區(qū)域進(jìn)行規(guī)劃;其次,在確定管道的性質(zhì)后,它將更換鉛管和鍍鋅鋼管。
Bincsik 十分看好 hydrovacing:它廉價(jià)高效,不易破壞管道。
同時(shí),Hydrovacing 的成本僅為 300 美元;而以傳統(tǒng)方式挖掘并替換管道的成本在 2500 到 5000 美元不等,成本要比 hydrovacing 高出幾倍。
然而,AECOM 的團(tuán)隊(duì)在項(xiàng)目開始前就陷入困境。
在 2018 年 10 月底,項(xiàng)目經(jīng)理 Alan Wong 告訴記者,問題始于 McDaniel 團(tuán)隊(duì)和 AECOM 團(tuán)隊(duì)交接的過渡期。
Wong 的工作人員應(yīng)該在 2017 年 10 月開始工作,那時(shí) McDaniel 的合同已經(jīng)到期。但 AECOM 的協(xié)議到 2017 年 12 月 28 日才簽署。團(tuán)隊(duì)之間沒有交疊。
Wong 表示:「本來在 10 月、11 月和 12 月,我們可以相互配合,合理過渡,但并沒有實(shí)現(xiàn)。」
此外,AECOM 似乎沒有考慮該項(xiàng)目的核心預(yù)測模型。
根據(jù)法庭聲明,在看似積極的初步討論后,來自密歇根大學(xué)的 Schwartz 在 2018 年 1 月至 5 月期間向 Wong 發(fā)送了五封電子郵件,均未得到回復(fù)。
Wong 告訴記者,他的公司所掌握的就是一張城市「熱圖」——就像一張圖片。
但 Schwartz 說他的團(tuán)隊(duì)已經(jīng)提供了數(shù)據(jù)庫,其中包括城市每個(gè)地點(diǎn)的含鉛管概率。
AECOM 的做法基本上像是在重新處理這個(gè)問題,就好像自 2016 年 6 月以來從未沒有成功地解決這個(gè)問題一樣。
而正如其他人之前發(fā)現(xiàn)的,AECOM 發(fā)現(xiàn),該市所擁有的數(shù)據(jù)既沒有完全數(shù)字化也不是完全準(zhǔn)確。Wong 說公司做的是無償?shù)臄?shù)字化工作,這本應(yīng)該在 1 月份完成,但直到 5 月份才完成。
但其實(shí)最大的問題,是市長 Weaver 要求 AECOM 的挖掘工作需要覆蓋整個(gè)城市。
他說,市政府「不想向議員解釋為什么他們所在地區(qū)沒有開展挖掘工作」。因此,AECOM 在整個(gè)城市創(chuàng)建了 10 個(gè)區(qū)域,在每個(gè)區(qū)域?yàn)槌邪谭峙淞?600 個(gè)待挖掘地址。
他們遇到的一個(gè)很大的問題是鉛管在城市中分布不均勻。
通過已知信息和工具評估(如已發(fā)現(xiàn)的鉛管的實(shí)際數(shù)量、密歇根大學(xué)模型的預(yù)測、城市記錄、建筑歷史知識等)可以明顯發(fā)現(xiàn),鉛管主要集中在少數(shù)地區(qū),譬如位于 CBD 的老城區(qū),如第五區(qū),而不是在外圍地區(qū),如第二或第十區(qū)。
此外,政府發(fā)現(xiàn),與挖掘機(jī)相比,hydrovacing 通常會產(chǎn)生更小的孔,而這讓一些鉛屑不容易被發(fā)現(xiàn)。
因此,市長決定放棄 hydrovacing,而選擇黃金標(biāo)準(zhǔn)的傳統(tǒng)方法?!妇用駮玫?100%的保證,這就是我們的價(jià)值所在,」Weaver 告訴記者。
AECOM 計(jì)劃在整個(gè)城市進(jìn)行 hydrovacing 作為識別鉛的手段,但現(xiàn)在的變化讓公司的規(guī)劃陷入困境。
市長決定在項(xiàng)目管理者認(rèn)為可能找到鉛管的所有區(qū)域挖掘每處房屋,這意味著不會省略那些模型顯示可能沒有鉛管的房屋。
「我們這樣做,是防止人們會說,『我鄰居的房子都挖開檢查了而我的卻沒有,』」Weaver 表示。
「這座城市不想讓任何人掉隊(duì),」Wong 告訴記者。
大量無用功
數(shù)據(jù)缺失從來都不是阻礙技術(shù)發(fā)揮效用的緣由。
很顯然,這個(gè)項(xiàng)目開始偏離它的主題,開始變得富有政治意義。
它不僅嚴(yán)重提升了修復(fù)項(xiàng)目的成本,也開始影響該項(xiàng)目拆除城市剩余含鉛管道的速度。
在弗林特的外圍區(qū)域,大片房屋的管道雖然被挖掘出來,但卻沒有發(fā)現(xiàn)任何鉛的痕跡,如下圖所示的 10 區(qū)東區(qū),藍(lán)色代表銅管,紅色代表鉛或鍍鋅鋼管。工人們在該地區(qū)挖掘了數(shù)百套房屋的管道,但沒有一根是由鉛或鍍鋅鋼制成的。
這是一張 2018 年管道挖掘地圖,藍(lán)色為銅管,紅色為鉛管或不銹鋼管。在三個(gè)突出的區(qū)域,承包商挖掘了大量房屋,但幾乎沒有發(fā)現(xiàn)含鉛管道。
關(guān)于該項(xiàng)目,政府頒布了一項(xiàng)新的指令:通過最密集的方式挖掘該市的每個(gè)活躍的水源地。否則,市民可能會一直懷疑他們的房屋有鉛管。
項(xiàng)目管理人員告訴人們,「你們必須相信計(jì)算機(jī)模型,」但 Wong 卻坦白:「公民不會相信這一點(diǎn)。」
對于為什么 AECOM 的檢測率低于 2017 年的團(tuán)隊(duì),以上發(fā)生的都是合理的解釋。
McDaniel 在該領(lǐng)域的鉛濃度最高的地區(qū)工作,他的團(tuán)隊(duì)遵循該模型的預(yù)測。
而 AECOM 和市政府則沿著街區(qū)挖掘每個(gè)房子。
此外,城市的含鉛管道比原先估計(jì)的要少。早期估計(jì)有兩萬到三萬個(gè)城市管道由鉛或鍍鋅鋼制成,事實(shí)證明這個(gè)數(shù)字太高了。
NRDC 一直在起訴該市實(shí)施計(jì)劃的方式——協(xié)議的核心項(xiàng)就是拆除鉛管,但這一目的如今變質(zhì)了。況且這樣無目標(biāo)大范圍挖掘的另一個(gè)結(jié)果是,鉛管在居民家中滯留時(shí)間早就超過了合理時(shí)間。
在一份法庭文件中,Schwartz 估計(jì)該市仍有 4964~6119 個(gè)有危險(xiǎn)管道的房屋。
下圖紅色顯示為人工智能研究人員預(yù)測危險(xiǎn)管道安裝的可能性超過 90%的區(qū)域,藍(lán)色則指不太可能有鉛或鋼管的區(qū)域,黑點(diǎn)指 AECOM 的團(tuán)隊(duì)在 2018 年 11 月已完成的工作。如果模型大致正確,那么隨機(jī)檢查表明,這個(gè)項(xiàng)目已經(jīng)不再針對最需要更換水管的區(qū)域開展挖掘工作。
房屋含鉛可能性的預(yù)測地圖:鉛管(紅色)、銅管(藍(lán)色)和城市挖掘活動(黑色)
「令人不安的是,政府無法解釋他們?nèi)绾芜x擇挖掘區(qū)域,」NRDC 律師 Dimple Chaudhary 說?!高@個(gè)模型在預(yù)測『這里有鉛』方面做得很好,也顯示出他們正在錯誤的地方挖掘?!?/p>
舉一個(gè)顯著的例子,第五區(qū)預(yù)計(jì)含鉛量最多。密歇根大學(xué)模型估計(jì),工作人員在該地區(qū)發(fā)現(xiàn)鉛的幾率為 80%。
然而,從 2018 年 1 月到 8 月,AECOM 承包商在該地區(qū)的挖掘工作最少,在該市的 3774 此挖掘中,僅有 163 次在此區(qū)域挖掘。其中,有 156 處被發(fā)現(xiàn)了鉛管,占比 96%。
與此同時(shí),在同一時(shí)期的第二個(gè)區(qū)域,1220 所房屋被勘探,其中僅有 46 個(gè)被發(fā)現(xiàn)有含鉛管道,只有 4%的準(zhǔn)確率。
AECOM 在 Schwartz 和 Abernethy 這兩個(gè)模型預(yù)測鉛管占比較多的區(qū)域進(jìn)行了最多的挖掘,結(jié)果證實(shí)了該模型的預(yù)測。
一個(gè)暫時(shí)性結(jié)局
為承包商提供補(bǔ)助的州政府表示,從這些數(shù)據(jù)來看,由于該項(xiàng)目的管理方式,它將暫停向市政府付款。
「市政府做出了一項(xiàng)錯誤的政策決定,停止優(yōu)先挖掘那些預(yù)計(jì)會發(fā)現(xiàn)鉛或鍍鋅鋼服務(wù)管線的房屋,」司法部稱。
現(xiàn)在,弗林特市、NRDC、州政府和 AECOM 正在就重拾 2017 年使用的機(jī)器學(xué)習(xí)模式進(jìn)行談判。盡管 AECOM 的合同已經(jīng)續(xù)簽,但其可能包括重用該模型。
市政府官員自認(rèn)為,為實(shí)施這一項(xiàng)雄心勃勃、困難重重的計(jì)劃做足了努力。
譬如,Weaver 就認(rèn)為這些決定保護(hù)了她所在城市的所有居民的健康和安全;而 AECOM 則聲稱自己已盡力而為。
但是,盡管看起來誠意滿滿,但殘酷的現(xiàn)實(shí)卻不容忽視:
繼續(xù)實(shí)施 2017 年的計(jì)劃可能會在 2018 年期間就將城市剩余的的鉛管道全部移除。成千上萬的人會在知道他們房屋埋有銅線管道時(shí)而安心。
但是反過來看,其他沒有被顧及到的居民(可能是預(yù)測模型認(rèn)為不含鉛管的地區(qū)),則必須等到挖掘工作重新開始時(shí)才能確定。
從居民角度來看,盡管管道挖掘成本會有大幅降低,但這也可能使很多居民繼續(xù)疑神疑鬼,剝奪了他們獲知真相的權(quán)利。
或許,這場關(guān)于 AI 的戲劇已經(jīng)上演到超出任何人想象的一幕;而這,可能只是另一場悲劇的開幕。