10. 某企業建置檢索增強生成(Retrieval-augmented generation, RAG)系統支援內部知識查詢。隨著使用量提升,團隊發現模型回覆品質穩定,但推論延遲與運算成本逐漸增加。專案規劃在維持回覆品質前提下進行效能優化。在此情境下,若採用知識蒸餾(Knowledge Distillation),下列敘述何者最為合理?
(A)將檢索資料轉換為結構化規則以取代模型;
(B)僅透過增加檢索文件數量改善效能;
(C)停用生成模型以避免延遲問題;
(D)使小型模型學習大型模型行為,以降低推論成本

答案:登入後查看
統計: A(9), B(1), C(0), D(19), E(0) #3870564

詳解 (共 1 筆)

#7352954
正確答案:(D) 詳解: 知識蒸餾是一...
(共 243 字,隱藏中)
前往觀看
1
0