44. 某金融集團評估將大型語言模型導入客服與風控系統,團隊採用如 120B 參數等級的超大型語言模型以確保回應品質。請問下列何者最能說明企業在正式環境 部署超大型語言模型時,最需要優先考量的因素?
(A)模型參數量龐大,導致每次輸出結果差異極大,難以符合金融業對回應一致 性的要求;
(B)超大型模型無法支援批次處理,在高併發的客服場景下將造成嚴重的服務瓶 頸;
(C)推理延遲較高且運算資源消耗龐大,每次請求成本遠高於小型模型,需在模 型效能與營運成本之間審慎權衡;
(D)模型會依任務複雜度自動調整運算資源配置,因此不需特別考量推理成本

答案:登入後查看
統計: A(3), B(1), C(19), D(0), E(0) #3922938

詳解 (共 1 筆)

#7403232
第 44 題 正確答案: C 解析: ...
(共 210 字,隱藏中)
前往觀看
1
0