引言
大家好，這是「最佳拍檔」，我是大飛。之前有觀眾在留言區說，大飛你總是談 AI 的好處，很少談 AI 的壞處。我覺得有道理。一方面，AI 高速發展帶來了太多進步；另一方面，AI 仍有很多不如人意之處，其應用和價值也有很多不清晰的地方。所以今天我們要談談 AI 的失敗案例，或許背後反映的問題能給我們更多啟發。
Klana 對 AI 的篤信
去年，有位 CEO 用 AI 代替自己發布財務報告，就是那位說 AI 能取代所有人類工作的 Klana CEO 塞巴斯蒂安·希米亞科夫斯基。今年 1 月，這位 AI 信徒還在社交媒體上嚴肅地告訴大家，理論上 AI 已經有能力取代所有工作，包括他自己在內的人類工作者最終將難以立足。
Klana 的裁員與 AI 計劃
讓時間回到 2024 年 9 月。Klana 是一家市值約 15 億美元、商業模式類似國內螞蟻金服的金融科技公司。據報道，它準備實施大規模裁員，計劃裁減近 2000 個工作崗位。為此，Klana 表示一年前就已完全凍結招聘，打算在一年內以自然方式將員工數從 4500 人減至 3500 人。
面對媒體，塞巴斯蒂安強調公司不缺人才，而是通過不招聘的方式讓 Klana 的團隊自然優勝劣汰。同時，Klana 內部開始讓 AI 全面接手人類工作，客服崗位首當其衝。當時，Klana 自豪地宣布 AI 客服助理已取代相當於 700 名人工客服，自動完成了 230 萬次與客戶的對話，還能覆蓋 35 種語言，全天響應。這種效率讓公司覺得沒必要再招人。
於是，Klana 設定了一個大膽的目標，進一步將公司規模縮減至 2000 人，其餘空缺由 AI 填補。更令人震驚的是，塞巴斯蒂安本人也交出了 CEO 的職位。2024 年 12 月的財經新聞發布會上，Klana 用塞巴斯蒂安的 AI 數字人宣布業績並解釋財務細節。塞巴斯蒂安在 X 上發推文稱，對他來說，AI 現在可以完成包括他自己在內的所有任務，因為工作本質上是推理加上知識和經驗的結合，而 AI 已經實現了推理能力這一最關鍵的突破。
Klana 的 AI 策略成效
可以說，Klana 是一家將 AI 優先策略貫徹到底的公司。人力資源規模減少且不再招聘後，問題隨之而來，誰來做工作？Klana 給出的答案是 AI 分擔一部分，剩下的由員工完成，並給員工漲薪。塞巴斯蒂安表示，Klana 會將 AI 提高效率所節省的部分工資回饋給仍在工作的員工，即公司總工資會減少，但 AI 提高效率的部分會體現在員工工資上。這種 AI 提高工作效率、員工賺更多錢的邏輯是一種理想的內部激勵機制。留下的員工需要承擔更多工作，但也能享受 AI 提高效率帶來的更高收入。
從塞巴斯蒂安描述的場景來看，Klana 的員工也在積極擁抱 AI。例如，使用 AI 工具生成圖像和視頻材料，自動翻譯營銷內容和社交文件，使用大模型進行財務分析和產品測試等。這似乎是一個勝者為王、敗者為寇的過程，誰能跟上 AI 的步伐，誰就能留下。
Klana 利用 AI 擴大生產能力、縮減人力的策略曾一度被視為金融科技行業的改革。數據顯示，Klana 的 AI 策略也對其自身財務狀況產生了積極影響。與 2022 年的上一輪 67 億美元相比，Klana 的估值在 2024 年底達到 146 億美元，財務狀況顯著改善。
Klana AI 客服的問題
轉眼間，Klana 業務興旺，AI 高效，人力資源成本下降，三營的局面似乎已經結束。但 Klana 為什麼又放開招聘了呢？實際情況是，Klana 的 AI 客服在剛上線時似乎表現不錯，上線僅一個月就佔據了公司 75% 的客服聊天量，能夠處理退款、退貨和支付等常見問題。按照這個趨勢，AI 客服似乎不僅能成為 Klana 的節省成本的手段，還能提高服務質量，預計每年能為公司帶來 4000 萬美元的利潤。但在更多的使用過程中，AI 的表現遠不如宣傳的那樣。
例如，《務實工程師》的專欄作家格雷戈里·奧羅斯曾在 X 上表示，經過測試，他發現 Klana 的 AI 機器人基本上像個漏洞，只是從文章中複製粘貼答案，然後迅速將用戶轉移給真正的客服。換句話說，它更像是一個智能版的問題鎖，無法解決真正的問題。
深入分析會發現，Klana 的 AI 客服存在更多問題：
-
回復冗長：由於 Klana 繼承了 OpenAI 模型，生成的答案往往過長。在客服場景中，用戶根本抓不住重點。例如，當用戶問如果不能按時付款會怎樣時，AI 客服的答案會包括銀行提供商、付款時間框架、付款更改限制等，看似說了很多，但用戶最關心的預期後果卻沒有清晰描述，讓用戶感到困惑，這顯然違反了對話設計的簡單清晰原則。
-
無法完成承諾操作：Klana 的 AI 客服經常聲稱能幫用戶更新信息和搜索訂單，但實際操作是提供跳轉鏈接，且這些鏈接往往無效。有時甚至會讓用戶自己查找信息。
-
強制用戶跳出支持窗口：原本應該在客服窗口進行諮詢，結果 AI 客服總是讓用戶去其他頁面完成操作，使整個服務過程變得碎片化。用戶需要在不同頁面之間反復切換，浪費了大量時間和精力，體驗大打折扣。
-
語言缺乏凝聚力：其回復模式化嚴重，無論用戶遇到什麼問題，都是熱情洋溢的語氣。但當用戶遇到問題時，它無法真正理解用戶的困難，也無法給予有效的幫助和情感支持，讓用戶感覺只是在和一個沒有感情的機器對話。
-
回復速度慢：每次用戶發送詢問，都需要 15 到 20 秒才能得到回復。在這個快節奏的時代，這樣的回復速度顯然無法滿足用戶的需求，進一步加劇了用戶的不滿。
從技術角度來看，Klana AI 客服的這些問題可能不僅是優化不夠的原因。事實上，Klana 使用的 OpenAI Assistance API 本身就有一定的延遲，因為每次生成回復時，往往需要同時調用多個模塊，包括知識歸納、功能執行、語氣調整、上下文語氣維護等。這種多模塊渲染過程耗時較長。這也表明，對於追求極端性能速度或行動執行效率的客戶來說，超大型模型的 API 不一定是最佳選擇。對於大多數客戶需求來說，使用輕量級模型加上清晰的流程組合可能是一種更經濟的解決方案。
Klana 的改變
面對這種情況，Klana 不得不做出改變。公司承認過去在擁抱 AI 的過程中方法過於激進，開始招聘新的客服人員。CYP4DN 也公開承認錯誤，稱從品牌和公司的角度來看，要讓客戶清楚地知道他們想找真人，而且一定能找到。這種改變不僅是對之前決策的反思，也讓我們看到，在追求技術創新的同時，不能忽視用戶體驗和服務質量的重要性。
為了改善現狀，Klana 推出了 10 點計劃，聘請客服專家協助 AI。具體來說，就是讓 AI 解決那些簡單的問題，而在關鍵時刻，那些複雜的問題將由專業的客服專家處理。
全球智能客服的困境
事實上，Klana 的經歷並不是個例。智能客服的普及並沒有帶來預期的好評，工人的轉型已成為全球用戶面臨的技術困境。在中國，《中國青年報》曾發布一項調查顯示，95.7% 的受訪者使用過智能客服，但只有 40% 的人認為它好用。在海外，研究機構 Variant 發布的報告也指出，超過三分之二的客戶有過糟糕的聊天機器人體驗。在社交媒體上，到處都能看到各種 AI 教程，用戶像傳遞秘密一樣反復播放。移動運營商、航空公司、各大電商平台和社交平台都未能倖免。這充分表明，智能客服在全球範圍內都面臨著嚴峻的挑戰。
問題原因
為什麼會出現這種情況？原因其實不複雜。AI 在處理簡單問題時表現不錯，但一旦用戶的問題稍微複雜一點，比如有點模糊或帶有一些情緒焦慮，它就容易失去理智。例如，當用戶因訂單問題情緒激動時，AI 客服往往無法準確理解用戶的情緒，也無法有針對性地解決問題，只會按照預定流程回復，這只會讓用戶更加生氣。這也反映出在客服領域，人類具有理解情緒、靈活應變等能力，目前 AI 技術還很難達到。
結論
可以說，Klana 的經歷給我們上了生動的一課。我們一直認為 AI 的發展會讓一些職位逐漸消失，客服將是第一波受到衝擊的。但事實是，技術的發展並不意味著人類會立即被淘汰，反而讓我們更清楚地認識到人類難以被取代的原因在於我們有獨特的情感、理解和創造力。在 AI 發展的浪潮中，我們需要更深入地思考如何將技術與人類優勢相結合，創造更好的服務體驗。
當然，我們不能簡單地認為 Klana 的失敗代表整個 AI 的失敗。AI 仍在快速發展，仍在迅速取代某些工作。從長遠來看，我們也必須繼續創造更多與 AI 共存的機會。謝謝大家觀看本期視頻，下次再見。
{# 
{# 
{# 
{# 
{#