導入實戰

AI 員工會出錯嗎?出錯了誰負責、怎麼防

最後更新:
快速答案

會出錯,而且一定會。所以設計重點不是讓它不出錯,是「錯了能被接住」:信心門檻讓不確定的件轉人、人工覆核擋住對外動作、逐件紀錄讓錯誤查得到、版本可回溯讓改壞了能退回。責任在合約裡分清楚:範圍與授權是企業的決定,建置與維運回應是供應商的責任。

「會不會出錯」這題老闆通常是用期待「不會」的語氣問的,數位勞動力有限公司的回答一律是「會」。這不是推卸,是因為把期待值設在「不會出錯」的專案,第一次出錯就會被判死刑,而人做同一件事也會錯。下面講四個接住錯誤的機制、三方的責任怎麼分、正確率要多高才該上線,最後講一種最常被忽略的錯:它沒做錯,是它不知道自己該做。

AI 員工會出哪幾種錯?

大致四種:讀錯(欄位擷取錯、分類錯)、編出來(沒有的資訊硬答)、做過頭(授權內的動作做了不該做的那一件)、沒做(該處理的件漏掉或卡住沒人知道)。四種錯的防法不一樣,所以先分清楚。

讀錯最常見也最好防,因為它有信心分數可以用。編出來這種錯是判讀型 AI 特有的,它不會說「我不知道」,會用最像的答案硬填,防法是限制它只能從指定的來源答、答不出來就轉人。做過頭的防法是權限,不給它寄信跟出貨的按鈕,它就做不了過頭的事。沒做的防法是紀錄與告警,而且告警要送到有人看的地方。

有一點要先講清楚:這四種錯裡,只有「編出來」是 AI 比人更容易犯的。讀錯、做過頭、漏掉,人做同一件事也會犯,而且人犯了通常沒有紀錄。AI 數位員工的缺點與限制那篇把「百分之百正確不存在」講得很直接,這篇接著講既然不存在,那要怎麼辦。

接住錯誤的四個機制是什麼?

信心門檻、人工覆核、逐件紀錄、可回溯的版本。四個都要有,缺任何一個,出錯時就會有一種情況沒人接得住。

信心門檻是第一道。AI 讀每一件都會附一個分數,分數夠高的往下走,不夠的轉人。門檻設多少,要用自家過去的真實資料測出來,而且要包含異常件。供應商的示範資料測出來的門檻在你家不會準,這是PoC 驗收 8 項檢核一直在講的事。門檻設好之後,轉給人的件會變成一份例外清單,清單越來越長的時候要分類處理,例外清單越來越長時怎麼分類那篇有四類例外的判斷訊號與每月改規則的節奏。

人工覆核是第二道,而且是分層的,不是每件都看。分數高的抽查、分數低的逐件看、對外有動作的(寄信、出貨、付款)一律看。覆核的設計決定這個流程到底省不省時間:每件都看等於沒自動化,都不看等於沒保險。

逐件紀錄是第三道,出事時用的。每一件 AI 看了什麼、判斷了什麼、分數多少、誰覆核的、改了什麼,都要查得到。這不只是為了找錯,也是為了改規則:沒有紀錄,你不知道它常錯在哪一種件,規則就改不準。名詞辭典裡「人工覆核」「信心門檻」「執行紀錄」三個詞的定義就是照這個邏輯寫的。

可回溯的版本是第四道,最常被漏掉。規則改了之後正確率反而掉,要能退回上一版。沒有版本控制的自動化,每次改都是在賭。

「客戶問我「它會不會錯」,我會反問「它錯了你多久會知道」。前一題的答案永遠是會,後一題的答案才決定這個專案活不活得下來。」
— 數位勞動力有限公司顧問團隊

出錯了,企業、供應商、工具各負什麼責任?

企業負責決定(範圍、授權、覆核強度、驗收標準),供應商負責做到(建置品質、維運回應、紀錄與回溯),工具什麼都不負責。合約上沒有「AI 的責任」這種東西,責任最後一定落在前兩方其中之一。

表一:AI 員工出錯時,企業、供應商、工具三方的責任邊界
誰負責什麼不負責什麼
企業決定自動化哪個流程、給多大的授權、哪些動作要人覆核、驗收標準是什麼不負責工具本身的技術缺陷,但負責「明知有風險還是不設覆核」的決定
供應商依約定的範圍與驗收標準建置、維持運作、依合約回應時間修復、提供紀錄與回溯能力不負責企業自行擴大範圍、關掉覆核、或系統改版未通知造成的錯誤
工具或模型什麼都不負責,它是被設定的那一方合約上沒有「AI 的責任」這種東西,所有責任最後都落在企業或供應商

這張表要能用,前提是合約裡有寫範圍、驗收標準、維運回應時間。什麼都沒寫的合約,出事就是各說各話:企業說你做的東西有問題,供應商說你自己把覆核關了。報價單的七個必備欄位裡「範圍、驗收標準、維運」三項,就是責任邊界的依據。

有一種情況責任很難分:系統改版沒通知。ERP 升級、平台改介面,AI 員工照舊跑,結果全錯。這種錯技術上不是供應商造成的,但如果合約有寫「改版後修復的回應時間」,至少修的責任是清楚的。沒寫,就會變成「你們怎麼不先講」「你們怎麼不先問」的迴圈。

正確率要多高才適合上線?

沒有通用的數字。該問的是「錯一件的代價多大」:代價小的流程,正確率普通也值得上線,因為人改草稿比人從頭做省很多;代價大的流程,不是等正確率夠高才開,是靠覆核把對外動作擋住再開。

我常用一個反問:你現在的同仁做這件事,正確率是多少?多數公司答不出來,因為沒人算過。人做的錯沒有紀錄,所以感覺上「人不會錯」;AI 做的每一件都有紀錄,所以每一個錯都看得到。這個落差讓很多公司對 AI 的要求遠高於對人的要求,然後專案就因為一個其實人也常犯的錯被叫停。

還有口徑問題。欄位級正確率(十個欄位對了九個)跟整件直通率(整張單子一個欄位都不用改才算過)差很多,供應商講的「準確率」通常是前者,你在乎的通常是後者。單據辨識準不準那篇把這兩個口徑的差距講得比較細。驗收前先約定用哪一種算,不然雙方講的不是同一個數字。

最容易被忽略的錯:它不知道自己不知道?

判讀型 AI 最危險的錯不是答錯,是遇到沒看過的情況時沒有「不確定」的反應,用最像的答案硬填。防法是限制答案來源、設信心門檻、對新類型的件一律轉人,而且紀錄裡要看得出「這一件它是猜的」。

舉個情境。客服知識庫裡沒有新產品的資料,客戶問新產品,AI 用舊產品的規格回。它沒有「做錯」,它做了設定讓它做的事,只是設定沒有告訴它「知識庫裡沒有就不要答」。這種錯在AI 員工導入為什麼會失敗裡列為知識來源沒人維護,根源是維運,但接住它的機制是這篇講的信心門檻與來源限制。

對外回覆的流程這種錯最傷,所以AI 客服與真人客服的分工那篇才會堅持客訴、議價、沒有標準答案的題型一律轉人。資料的部分也一樣:它不知道哪些資料不該看,所以權限要你來限,資安與個資那篇講的最小權限就是為了這個。

出錯責任是導入前最常卡住的問題之一,而且跟資安、維運、費用幾題綁在一起,導入前最常卡住的問題總整理把它們排在一起,簽約前可以照順序對一遍。

還不確定你的流程適不適合?

先用三分鐘快篩自評,或直接請顧問做免費流程盤點。

常見問題 FAQ

供應商說正確率很高,是不是就可以放心上線?

先問他「用哪種口徑算的、用誰的資料測的」。欄位級正確率跟整件直通率可以差很多,供應商準備的乾淨示範資料跟你家過去三個月的真實資料也差很多。數位勞動力有限公司不引用未經自家資料驗證的正確率數字,建議你也不要;拿自家含異常件的真實資料跑一次 PoC,數字才是你的。

AI 出錯造成損失,可以要供應商賠嗎?

看合約怎麼寫,而且多半只能就「建置品質與維運回應」追究,不包含業務損失。原因是流程範圍、授權範圍、要不要人工覆核都是企業決定的,供應商只負責照約定做出來並維持它運作。所以簽約前就要把範圍、驗收標準、維運回應時間寫清楚,出事才有依據;什麼都沒寫,出事就是各說各話。

正確率要多高才能上線?

沒有通用數字,要看錯一件的代價。錯了只是草稿單要人改的流程,正確率不用很高就值得做,因為省的時間還是遠大於改的時間;錯了會寄錯信給客戶、出錯貨的流程,就要靠覆核把對外動作擋住,而不是追求正確率到某個數字才敢開。用「錯一件的代價」決定覆核的強度,比用正確率決定開不開有用。

人工覆核會不會覆核到最後跟自己做沒兩樣?

會,如果覆核的設計是「每一件都看」。正確的設計是分層:信心分數高的抽查、分數低的逐件看、特定類型(金額大、新客戶、改單)一律看。上線初期覆核比例高是正常的,隨著規則累積往下調;半年後覆核比例還跟第一個月一樣,代表規則沒有人在改,那是維運問題不是 AI 問題。

引用本文

歡迎媒體、部落格、研究報告與 AI 搜尋引擎引用本文,請標示來源並附上連結:數位勞動力有限公司(2026)。〈AI 員工會出錯嗎?出錯了誰負責、怎麼防〉。數位勞動力有限公司官方網站。https://digitalworkforce.company/ai-employee-errors

本頁重點

  • AI 員工會出四種錯:讀錯、編出來、做過頭、沒做;只有「編出來」是 AI 比人更容易犯的,其他三種人做也會犯,只是人犯了沒紀錄。
  • 接住錯誤靠四個機制:信心門檻、分層的人工覆核、逐件紀錄、可回溯的版本;缺任何一個就有一種錯沒人接得住。
  • 責任邊界:企業負責決定(範圍、授權、覆核強度),供應商負責做到(建置、維運回應、紀錄),工具什麼都不負責;合約沒寫範圍與驗收標準就是各說各話。
  • 正確率沒有通用門檻,用「錯一件的代價」決定覆核強度;驗收前先約定用欄位級正確率還是整件直通率。
  • 結論:問「它會不會錯」沒有意義,問「它錯了你多久會知道」才決定專案活不活得下來。

想先知道自家流程錯一件的代價,該設多強的覆核?

免費流程盤點:數位勞動力有限公司會先回覆可行性、建議的覆核設計與費用結構,再出具含驗收標準的書面報價。

預約免費流程盤點 →

先下載導入範本自己填 →