37 下列何者不是我國行政機關使用生成式 AI(generative artificial intelligence)的正確作法?
(A)生成式 AI 產出之資訊,須由機關首長進行初步判斷
(B)製作機密文書應由業務承辦人親自撰寫,禁止使用生成式 AI
(C)業務承辦人不得向生成式 AI 詢問可能涉及機密業務的問題
(D)各機關不可完全信任生成式 AI 產出之資訊
統計: A(318), B(48), C(27), D(33), E(0) #3961422
詳解 (共 3 筆)
《行政院及所屬機關(構)使用生成式 AI 參考指引》
本參考指引共計十點如下:
一、為使行政院及所屬機關(構)(以下簡稱各機關)使用生成式AI提升行政效率,並避免其可能帶來之國家安全、資訊安全、人權、隱私、倫理及法律等風險,特就各機關使用生成式AI應注意之事項,訂定本參考指引。
(A)二、生成式AI產出之資訊,須由業務承辦人就其風險進行客觀且專業之最終判斷,不得取代業務承辦人之自主思維、創造力及人際互動。
(B)三、製作機密文書應由業務承辦人親自撰寫,禁止使用生成式AI。
前項所稱機密文書,指行政院「文書處理手冊」所定之國家機密文書及一般公務機密文書。
四、業務承辦人不得向生成式AI提供涉及公務應保密、個人及未經機關(構)同意公開之資訊,亦(C)不得向生成式AI詢問可能涉及機密業務或個人資料之問題。但封閉式地端部署之生成式AI模型,於確認系統環境安全性後,得依文書或資訊機密等級分級使用。
(D)五、各機關不可完全信任生成式AI產出之資訊,亦不得以未經確認之產出內容直接作成行政行為或作為公務決策之唯一依據。
六、各機關使用生成式AI作為執行業務或提供服務輔助工具時,應適當揭露。
七、使用生成式AI應遵守資通安全、個人資料保護、著作權及相關資訊使用規定,並注意其侵害智慧財產權與人格權之可能性。各機關得依使用生成式AI之設備及業務性質,訂定使用生成式AI之規範或內控管理措施。
八、各機關應就所辦採購事項,要求得標之法人、團體或個人注意本參考指引,並遵守各機關依前點所訂定之規範或內控管理措施。
九、公營事業機構、公立學校、行政法人及政府捐助之財團法人使用生成式AI,得準用本參考指引。
十、行政院及所屬機關(構)以外之機關得參照本參考指引,訂定使用生成式AI之規範。
答案是 (A)生成式 AI 產出之資訊,須由機關首長進行初步判斷。
這題考的是我國政府機關使用生成式 AI 時的資安、機密與人工查核原則。最重要的是:AI 產出不能完全信任,而且不能把機密資訊餵給生成式 AI。
一、為什麼 A 錯?
(A)生成式 AI 產出之資訊,須由機關首長進行初步判斷 ❌
問題在於:
不是要求「機關首長」親自進行初步判斷。
生成式 AI 的輸出應由業務承辦人或使用人員進行查證、檢核與判斷,不能把所有 AI 產出的資訊都交給機關首長初步判斷。
而且機關首長不可能逐一審查所有 AI 生成內容。
因此 A 是錯誤作法。
二、B 為什麼正確?
(B)製作機密文書應由業務承辦人親自撰寫,禁止使用生成式 AI ✅
這是為了避免:
機密資訊 → 輸入生成式 AI → 造成資訊外洩
尤其涉及:
-
國家機密
-
公務機密
-
個人資料
-
尚未公開的政策資訊
-
敏感業務資料
都不能任意輸入一般生成式 AI。
因此涉及機密文書時,應由承辦人依規定處理。
三、C 為什麼正確?
(C)業務承辦人不得向生成式 AI 詢問可能涉及機密業務的問題 ✅
這是典型的:
「不能把機密拿去問 AI。」
例如承辦人不能把:
「某機關目前正在進行的秘密採購案內容……」
直接貼進生成式 AI 問:
「請幫我分析這個案件。」
因為這可能造成敏感資訊外洩。
所以 C 正確。
四、D 為什麼正確?
(D)各機關不可完全信任生成式 AI 產出之資訊 ✅
這是生成式 AI 使用最重要的原則之一:
Human in the Loop(人為覆核)
生成式 AI 可能產生:
-
幻覺(hallucination)
-
錯誤資訊
-
過時資訊
-
虛構法規或資料
-
不正確的推論
因此:
AI 產出 ≠ 正確答案
必須由人員:
查證 → 判斷 → 修正 → 才能使用
所以 D 正確。
五、四個選項快速判斷
| 選項 | 判斷 | 核心概念 |
|---|---|---|
| A | ❌ | 不是要求機關首長進行初步判斷 |
| B | ✅ | 機密文書不得使用一般生成式 AI |
| C | ✅ | 不得詢問可能涉及機密業務的問題 |
| D | ✅ | AI產出必須人工查證 |
? 答案:(A)
? 考試口訣
「機密不餵AI,答案不盲信,人工要查證。」
尤其這題看到:
「機關首長」
就是陷阱。
生成式 AI 的使用原則不是:
AI → 機關首長判斷
而是:
AI → 使用/承辦人查證 → 人工判斷 → 才能採用
所以選 A。