為什么不少AI問答助手，員工問過一次就不再用了？

當(dāng)AI被錯(cuò)誤地賦予業(yè)務(wù)判斷、知識(shí)治理和風(fēng)險(xiǎn)承擔(dān)的責(zé)任時(shí)，一次不靠譜的答案就足以摧毀員工信任。本文從三類高風(fēng)險(xiǎn)需求切入，深入剖析AI問答項(xiàng)目失敗的核心邏輯，并指出在上線前必須厘清的關(guān)鍵決策。

———— / BEGIN / ————

最近在給一家企業(yè)做AI智能問答項(xiàng)目的需求調(diào)研，訪談期間我聽到最多的員工反饋就是：

“怎么還做問答助手？之前那個(gè)就不好用，問過一次，感覺不太靠譜，后面就懶得再問了?！?/p>

這家企業(yè)并不是第一次做AI。

相反，他們之前已經(jīng)搭過好幾套AI問答應(yīng)用，有的甚至還上線過一段時(shí)間。

但結(jié)果都差不多——

員工不愛用，問完還是要自己再去翻文檔；

更嚴(yán)重的是，有人曾經(jīng)拿著AI給出的答案去對外解釋業(yè)務(wù)，結(jié)果差點(diǎn)闖了禍。

很多人第一反應(yīng)會(huì)覺得，這是不是技術(shù)問題？是不是模型不夠強(qiáng)、知識(shí)庫不夠全、調(diào)優(yōu)沒到位？

但在我看來，真正的問題，往往在項(xiàng)目一開始就埋下了伏筆。真正要關(guān)注的，是什么問題該讓AI答

在不少企業(yè)里，AI問答的立項(xiàng)邏輯很簡單：

知識(shí)太多，員工找不到 → 那就做個(gè)AI，讓它來答 → 能答多少算多少，后面再慢慢優(yōu)化

聽起來很合理，但真正落到使用場景里，就會(huì)出問題。

因?yàn)橛幸活悊栴}，本質(zhì)上就不該被當(dāng)成普通知識(shí)問答交給AI。

員工并不會(huì)區(qū)分這是流程問題，還是經(jīng)驗(yàn)判斷，又或是風(fēng)險(xiǎn)邊界問題。他們只會(huì)覺得：

既然是公司上線的AI，那它說的應(yīng)該是對的。

一旦AI在這類問題上給出一個(gè)表面完整但實(shí)際上不夠嚴(yán)謹(jǐn)?shù)拇鸢福脩魧λ男湃尉蜁?huì)迅速下降。我會(huì)優(yōu)先建議客戶規(guī)避的幾類AI問答需求

在最近這個(gè)項(xiàng)目中，我做的第一件事，并不是重建知識(shí)庫，也不是設(shè)計(jì)智能體解決方案，更不是幫客戶選模型，而是先和客戶確認(rèn)，需求里會(huì)不會(huì)要求回答下面這幾類問題：

第一類：需要業(yè)務(wù)判斷或風(fēng)險(xiǎn)承諾的問題

這類問題往往沒有標(biāo)準(zhǔn)答案，或者答案高度依賴具體情境。 一旦被AI出確定性答案，風(fēng)險(xiǎn)反而被放大。

第二類：來源不清、責(zé)任不清的綜合性問題

用戶會(huì)經(jīng)常問哪些問題、這些問題的答案從哪來、誰負(fù)責(zé)更新和維護(hù)信息源、內(nèi)容錯(cuò)了算誰的，沒人能說清楚。 這種問題越是一本正經(jīng)地回答，越容易誤導(dǎo)使用者。

第三類：知識(shí)體系本身還沒理順，就指望AI來兜底的問題

原始的制度文檔混亂、規(guī)則頻繁變動(dòng)，同一個(gè)問題在好幾份文檔里都能找到答案卻彼此邏輯沖突，本身該花時(shí)間整理的知識(shí)管理體系沒人負(fù)責(zé)，卻希望靠AI一步解決。 結(jié)果往往是AI被當(dāng)成擋箭牌，用一次就失望一次。

這些需求從業(yè)務(wù)角度看都很想要， 但從落地角度看，現(xiàn)在做，只會(huì)更快消耗信任。為什么員工用一次就不用了

很多管理者會(huì)問：

為什么員工不愿意多試幾次？

原因其實(shí)很簡單： 在企業(yè)環(huán)境里，一次不靠譜的體驗(yàn)，成本就已經(jīng)很高了。

員工不是我們的小白鼠，而是要在真實(shí)工作中，希望能幫他提高效率、解決問題。一旦他們發(fā)現(xiàn)：

答案不確定，要自己再查一遍

查完發(fā)現(xiàn)AI說得不對，甚至還可能帶來風(fēng)險(xiǎn)

那下一次，他自然會(huì)繞開這個(gè)工具。

這和模型強(qiáng)不強(qiáng)關(guān)系不大，和一開始有沒有把邊界想清楚關(guān)系很大。上AI之前，先想清楚要用它替代什么

我并不反對做AI知識(shí)問答，相反，這是很多組織都已經(jīng)應(yīng)用很成熟的一個(gè)標(biāo)桿場景。因?yàn)樗雌饋盹L(fēng)險(xiǎn)最低、路徑最清晰、ROI最容易被解釋。

但也正因?yàn)槿绱?，AI問答往往成了最容易被誤判的第一個(gè)項(xiàng)目。

很多失敗案例的核心問題，就是因?yàn)榻M織在不自覺中，把三類本不該交給AI的責(zé)任，提前交出去了。

第一類是判斷責(zé)任

一旦員工習(xí)慣向AI詢問該不該這么做、這么做能不能行？

哪怕答案只是建議，也會(huì)被默認(rèn)帶有組織立場。

這時(shí)候，AI不再是工具，而是在替組織表態(tài)。

第二類是知識(shí)治理責(zé)任

不少團(tuán)隊(duì)并沒有真正梳理過自己的知識(shí)資產(chǎn)，他們的知識(shí)往往散落在個(gè)人電腦、聊天記錄和各種系統(tǒng)里，難以被找到、理解和復(fù)用；也沒有建立起統(tǒng)一的規(guī)則和流程，讓知識(shí)在產(chǎn)生、沉淀、共享和更新時(shí)都有章可循，而是主要依賴個(gè)人經(jīng)驗(yàn)和習(xí)慣；

在這樣的背景下，把希望寄托于通過AI問答的方式，一步到位解決這些找不到、說不清的問題。結(jié)果往往就是：

AI把原本模糊的知識(shí)，包裝成更像確定結(jié)論的“偽答案”。

第三類是承擔(dān)風(fēng)險(xiǎn)的責(zé)任

在流程尚未穩(wěn)定、規(guī)則頻繁變化的階段引入AI，就等于把本該由人承擔(dān)的試錯(cuò)成本，提前暴露給一線員工。

員工一旦在真實(shí)業(yè)務(wù)中被坑過一次，后面再怎么優(yōu)化策略、優(yōu)化檢索邏輯，系統(tǒng)也很難再被信任。

從這個(gè)角度看，很多AI問答項(xiàng)目并不是做早了，而是在組織還沒準(zhǔn)備好承擔(dān)后果之前，就提前上線了一個(gè)能對話的系統(tǒng)。

因此，在上線AI智能問答助手之前，至少企業(yè)牽頭人要先想清楚三件事：

1. 哪些問題，AI只能輔助，不能給結(jié)論

2. 哪些問題，必須有明確來源和兜底機(jī)制

3. 哪些問題，現(xiàn)在不該問AI，而是該先理知識(shí)體系

在這些問題沒想清楚之前，急著上線，只會(huì)讓系統(tǒng)死得更快。寫在最后

在我現(xiàn)在參與的這些項(xiàng)目里，越來越多時(shí)候，我的角色并不是幫客戶多做一個(gè)AI智能體，而是在關(guān)鍵節(jié)點(diǎn)，幫他們提前預(yù)判風(fēng)險(xiǎn)、及時(shí)止損。

AI能不能用，很多時(shí)候不是技術(shù)決定的，而是有沒有人在一開始，就把不該做的事攔下來。

這件事，往往比項(xiàng)目上線速度本身更重要。

如果你所在的團(tuán)隊(duì)，也做過或正在做AI問答，不妨先想一想：

如果員工不太用它，是還沒習(xí)慣，還是已經(jīng)在第一次使用時(shí)就失去信任了？

本文來自公眾號(hào)：互聯(lián)網(wǎng)悅讀筆記 作者：申悅

想要第一時(shí)間了解行業(yè)動(dòng)態(tài)、面試技巧、商業(yè)知識(shí)等等等？加入產(chǎn)品經(jīng)理進(jìn)化營，跟優(yōu)秀的產(chǎn)品人一起交流成長！