全球專業服務與金融市場正被生成式AI深度改寫，一份遭疑「AI幻覺」的安永(EY)報告遭下架、德勤(Deloitte)早前也因假引文急改文件，同時華爾街投資與醫藥研發愈來愈依賴演算法，專業資訊信任正面臨結構性壓力。

安永(EY)日前悄悄將一份聚焦會員點數計畫網路風險的研究報告從官網撤下，卻在專業圈掀起不小震撼。這份名為《Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems》的研究，原本被EY加拿大顧問當作業務簡報工具，對外推廣其資安服務，如今卻被第三方研究機構GPTZero質疑，指報告內含大量疑似由AI生成的假數據與虛構引文，成為「AI幻覺」入侵專業諮詢產業的最新案例。

GPTZero研究人員Om Ogale、Paul Esau與Alex Cui檢視報告內容後指出，文件多處出現邏輯與事實錯置：一方面引用一份根本不存在的麥肯錫(McKinsey)報告作為關鍵佐證；另一方面，對全球會員積分市場的規模與未兌換點數總額使用同一個「2000億美元」數字，卻未做任何說明或拆解。更麻煩的是，超過六則註腳連向的網頁不是無法開啟，就是與報告聲稱內容完全無關，凸顯部分引用恐屬「憑感覺亂湊」的AI產物。

對此，EY回應表示已將該報告下架，並啟動內部審查流程，強調文件並未綁定任何客戶專案，且公司「非常重視所有出版內容的準確性」，並宣稱全公司對負責任使用AI有一致承諾。然而，這已不是專業服務界首度因AI出包。德勤(Deloitte)去年就曾被揭露一份提交加拿大省政府的報告出現假學術引用，最終不得不緊急修訂，顯示大型顧問公司在AI輔助產出的內控與學術倫理上，仍明顯追不上技術演進速度。

GPTZero在部落格中提醒，將報告公開上網，本質上就是往全世界的知識水庫「注入新資料」；一旦這些資料包含「震懾感十足但是假的引用或錯誤主張」，就容易在日後被其他研究者當成可靠來源，層層轉引，最終造成「資訊水源被下毒」。對倚賴大量二手資料的金融分析、產業研究甚至媒體而言，一份出自知名顧問公司、掛在高流量官網上的報告，往往會被自然視為可信基準，這正是風險所在。

放大來看，AI對專業決策鏈條的影響已不再侷限於顧問報告。華爾街投行如Morgan Stanley近日在中期策略報告中，就把AI視為驅動資本支出與經濟成長的三大結構支柱之一，用來支撐其維持股票(例如SPY、DIA、QQQ)超配的投資建議。當大型機構一方面押注AI帶來的生產力紅利，另一方面卻在實務操作上被AI「幻覺」踩雷，市場其實正同時承受「效率提升」與「錯誤加速」兩股力量拉扯。

更關鍵的是，AI生成內容與人類信任機制之間，出現了難以簡單修補的落差。傳統上，專業服務品牌本身就是品質保證，投資人與企業客戶往往依賴「大所」、「大行」名號替自己省去查證成本；但在生成式AI大量參與資料蒐集、初稿撰寫甚至引文整理後，品牌與內容之間的連結被悄悄稀釋。當一份文件事實上是由演算法草擬、人類僅做有限修訂，卻仍頂著全球四大會計師事務所名義發布，外界對「誰負責」就會越來越模糊。

從風險管理角度來看，EY與德勤事件只是冰山一角。無論是金融研究、醫療開發，或如Compugen(CGEN)這類強調以AI平台發掘免疫腫瘤標的的生技公司，早已把機器學習深度嵌入商業模式。但不同領域對錯誤的容忍度截然不同：投資報告若誤導，可能讓資金錯配；醫療試驗若基於錯誤假設設計，就可能拖慢藥物上市，甚至影響病人安全。因此，如何清楚區分「AI協助產生的假設」與「經嚴謹驗證的結論」，變成未來監管與公司治理必須直面的新課題。

業界已開始提出替代方案與反制想法。其一，是強化第三方查核，例如GPTZero此次扮演「AI內容審計員」，就顯示市場對獨立驗證工具的需求正在浮現，未來不排除出現專責「AI生成內容審計」的利基產業。其二，是在報告本身標註生成流程，清楚說明哪一部分使用AI撰稿或協助整理資料，讓讀者可以有意識地提高警覺。其三，則是企業內部建立更嚴格的「人類最後一關」制度，不將AI輸出直接等同於可對外發布的專業意見。

然而，也有業者提醒，將所有風險都推給AI並不公平。就此次EY事件來看，真正的問題在於審核與治理機制未跟上，導致本應由人類專業判斷把關的環節失效。換言之，AI只是放大了原本既有的資訊倫理弱點，而不是單獨創造問題。若缺乏透明度與責任歸屬，就算完全不用AI，照樣可能出現美化數據或選擇性引用的「人為幻覺」。

展望未來，隨著生成式AI功能不斷進化，專業資訊市場恐怕難以回頭。真正的考驗，不在於要不要用AI，而在於能否在享受效率與創新的同時，建立足以維持信任的遊戲規則：從大型顧問公司到投行、再到以AI為核心的醫藥或科技新創，如何讓每一份研究報告都說清楚「資料從哪裡來、怎麼被機器處理、最後由誰負責」，將決定這波AI革命最終是淨化還是污染全球知識水庫。

點擊下方連結，開啟「美股K線APP」，獲得更多美股即時資訊喔！
https://www.cmoney.tw/r/56/9hlg37

免責宣言
本網站所提供資訊僅供參考，並無任何推介買賣之意，投資人應自行承擔交易風險。