「我們有做管控，所以風險低」——這句話順序講反了

會議室裡有人問：「我們用 AI 做客服回覆，有沒有風險？」

最常聽到的回答是：

「還好啦，我們都有人工看過才發出去。」

這句話聽起來很負責。但它把兩件事揉在一起了，而且順序反了。

數發部十月要發「AI 內控範本」

八月二十六日的數位政府高峰會上，數發部宣布要為各機關建立標準化的 AI 風險評估與內控制度：十月提供內控範本，各機關明年初提出正式內控規範。

你可能會想，那是政府的事。

但它的上游——七月七日公布的《人工智慧風險分類框架》——在執行摘要裡直接寫了一段給「產業界」的閱讀指引。政府自己把企業列成讀者了。（注意：是讀者，不是受規範對象——這點後面會講清楚。）

最值錢的一條：評估風險時，不准把你的防護算進去

框架 3.3.2「以客觀固有風險為評估原則」寫得很硬：

評估時不考慮現有法規、行政措施或技術手段之緩解效果，這些措施是否足以降低風險，留待應對風險階段另行判斷。

框架講的是兩個階段。阿峰老師把它翻成一張表上的兩欄，比較好動手——

・第一欄：這件事本身，在沒有任何防護的情況下，最壞會怎樣
・第二欄：我們做了什麼讓它沒那麼壞

分開寫，不在同一格裡相抵。（防護不是不算，是算在下一步。）

用開頭那個客服的例子跑一次就很清楚：
第一欄要寫的是「AI 直接把錯誤資訊發給客戶，最壞會造成什麼」——賠償、商譽、主管機關來問。
第二欄才是「我們有人工複核」。

為什麼要這樣改？數位政府司長王誠明在八月那場高峰會上說得直白：過去直接問機關「AI 有沒有風險」，往往得到「沒有風險」的答覆。

阿峰老師在企業現場看過太多次同一件事——風險登記表上永遠一片綠燈，因為每一格都已經先把「我們有人看」算進去了。

分開算的真正好處是：哪天那個防護沒了，你會立刻知道風險回到哪裡。

那個負責複核的人離職了、量太大來不及看了、流程被簡化了——如果當初揉在一起算，你的表格不會有任何變化。因為它從頭到尾只寫了「低」。

第二條：AI 治理不是再寫一本 AI 規範

多數公司聽到「要做 AI 治理」，第一個動作是開一份《生成式 AI 使用管理辦法》。

數發部講的正好相反：把 AI 風險整合回既有治理架構，不要形成重複管理。

・涉及資安的 → 回資安制度
・涉及個資的 → 回個資保護制度
・AI 內控只處理 AI 特有的：模型幻覺、人工監督、人機協作

對中小企業這是好消息——你需要的不是一本新手冊，是在既有制度上補幾個欄位。

一個今年才變成現實的格子

框架的風險類型表裡有一項 B6「AI 自主代理之授權外行為」：

（AI Agent 系統）……可能因目標設定不完整或環境變化，導致行為逐漸偏離原始指令，乃至自主取得超出授權範圍之系統存取權限。

上週那封信講 GPT-6 Astra 會自己開瀏覽器、填表單、更新 CRM。這一格講的就是那件事的另一面。

如果你公司今年開始讓 AI 代理去讀信、開單、動系統，這一格請認真看。

誠實踩煞車

・這不是給企業的法規。 規範主體是「目的事業主管機關」，這套框架本身不對企業設義務，定位是參考文件（個資法、著作權、你所屬產業主管機關既有的規範，照樣管）
・十月的範本現在還不存在。 相關敘述來自媒體對高峰會的報導與現場轉述，不是已公布文件。規畫中的東西會變
・間接影響會比直接影響先到——各產業主管機關依這套訂出來的規範，以及政府採購開始要求供應商提出 AI 風險說明。做政府標案、金融、醫療、教育的，會比你想的早遇到
・這版不是終局。 框架 3.2.3 自己寫了會定期檢視、增修風險類型。現在照著做沒問題，但別把它當永久標準
・以上是方法建議，不是法律意見。個案是否適用請洽專業法律諮詢

阿峰老師的建議只有一句：這週先把那張表拆成兩欄。

不必等十月，也不必等法規。光是把「最壞會怎樣」和「我們做了什麼」分開寫，你就會看到一些以前看不到的東西。

完整版寫在官網，含二十項風險類型表與政府四步驟的企業版對照：

👉 https://autolab.cloud/blog/moda-ai-risk-framework-enterprise

— 阿峰老師

📢 本週四：9/17（四）19:00–20:30｜線上免費

保經代的 AI 實戰
從銀行理專到保險科技創辦人——林奕帆的數位轉型實戰

他原本是年薪不錯的銀行理專，女兒出生那年辭職。後來被整個部門裁撤、「被迫創業」，切進一個幾乎沒人想碰的市場：商業用車保險。據他自述，羅賓斯目前在商用車險的 UBER／Tesla 市占 50%，服務前 30 大主要保經代。

阿峰老師想請他回答的，正好是這封信的下一步——導入這件事，決策者真正卡住的地方：不必換掉現有 CRM 嗎？資料要不要搬？導入要多久？成本怎麼算？

🗓 9/17（四）19:00–20:30
💻 線上 Google Meet
💰 免費

※ 社群分享性質，阿峰老師與羅賓斯科技無分潤或代理關係。

👉 立即報名：https://autolab.cloud/events/robins-console-insurance-ai-0917