複選題

36. 在 OWASP LLM Top10 中，針對 AI 運算中的風險，以下哪些項目的描述有誤？
(A)對高風險操作加入人工審核，可降低提示詞注入漏洞(Prompt Injection)的衝擊
(B) 間接提示詞注入(Indirect Prompt Injections)不包含供應鏈之外部來源
(C) 應用程式提供所有使用者相同的的 API token 可限制其權限
(D)應定期執行滲透測試與紅隊演練，並將 LLM 視為不受信任實體

答案：登入後查看
統計： A(5), B(12), C(13), D(7), E(0) #3871571

詳解 (共 1 筆)

#7370683
在 OWASP LLM Top 10 的安全框架中，描述有誤的項目為 (B) 與 (C)。本題為複選錯誤敘述（若為單選題型，(B) 與 (C) 皆存在核心觀念錯誤）。
❌ 錯誤描述解析
  • (B) 間接提示詞注入(Indirect Prompt Injections)不包含供應鏈之外部來源
    • 錯誤原因：間接提示詞注入（Indirect Prompt Injection）的核心定義，正是惡意指令來自外部資料來源（如 LLM 讀取的外部網頁、第三方文件、或是供應鏈中的外部 API 回傳內容）。因此它完全包含並高度依賴供應鏈之外部來源。
  • (C) 應用程式提供所有使用者相同的的 API token 可限制其權限
    • 錯誤原因：這違反了資安的「最小權限原則」（Least Privilege）。若所有使用者共用同一個 API token，應用程式將無法識別真實行為者，亦無法實施用戶級別的權限隔離，一旦發生提示詞注入或越權攻擊（如 Excessive Agency），攻擊者將能藉此共用 token 存取不屬於他的敏感資料或執行高風險操作。 [1, 2, 3, 4, 5, 6, 7]
正確描述解析
  • (A) 對高風險操作加入人工審核，可降低提示詞注入漏洞(Prompt Injection)的衝擊
    • 正確性：OWASP 官方明確建議，針對涉及刪除、修改、外發資料等高風險行為，必須引入「人工審核機制（Human-in-the-loop）」，以阻斷 AI 因受到惡意提示詞操縱而直接執行毀滅性指令。
  • (D) 應定期執行滲透測試與紅隊演練，並將 LLM 視為不受信任實體
    • 正確性：資安防禦應採取「零信任（Zero Trust）」架構，任何來自 LLM 的輸出都必須視為不可信、未經消毒的資料（防範 Improper Output Handling），且必須透過定期的紅隊演練來主動發掘新型態的 AI 漏洞
0
0