19. 某保險公司導入兩種大型語言模型：第一種回應速度快、成本較低；第二種推理能力較強，但運算成本較高。為了兼顧回覆品質與整體營運成本，技術團隊希望系統自動判斷每次使用者請求應由哪一個模型處理。下列哪一種架構設計最能達成此需求？ (A)負載平衡(Load Balancing)，依據各模型伺服器目前的運算負載與網路流量分配請求； (B)規則式分流(Rule-based Routing)，依預先設定的固定條件(例如關鍵字或問題類別)將請求分派至指定模型； (C)提示詞工程(Prompt Engineering)，透過系統提示詞要求使用者先選擇問題類型，再依選擇結果決定使用的模型； (D)模型路由(Model Routing)，先讓模型判斷問題特性，再將請求分派至適合的模型處理

24. 某企業「人資 AI 助理」採檢索增強生成(RAG)技術，系統會先檢索前 10 筆相關規章，再由其中排序最前面的 3 筆文件提供大型語言模型(LLM)作為回答依據。員工查詢「留職停薪規定」時，AI 遺漏了所屬部門最新補充規定。技術團隊確認該規定已成功檢索，但排序第 8 名，因此未被優先提供給大型語言模型作為回答依據。在不重新訓練模型、不重新建立向量資料庫的前提下，應優先導入下列何種元件改善此問題？ (A)查詢擴展器(Query Expansion)，自動加入同義詞或相關關鍵字擴展查詢內容，以提高相關文件被檢索到的機率； (B)文本切分器(Text Splitter)，將長篇規章拆分成較小段落，以利建立文件索引； (C)重排序器(Reranker)，重新評估初步檢索結果的相關性，將最相關的文件優先提供大型語言模型(LLM)參考； (D)語意快取器(Semantic Cache)，儲存常見查詢與 AI 回覆，遇到語意相近的問題時直接回傳先前結果，以降低運算成本與回應時間

相關試題

相關試卷