44. 某軟體公司計劃開發一款手機 App,需要在沒有網路的環境下,也能在手機本機端(邊緣裝置)執行微型大語言模型來提供即時語音翻譯服務。考量到行動裝置的記 憶體(RAM)容量限制以及電池續航力,工程師建議在部署前先對模型進行模型量化(Quantization)處理。請問關於此作法所帶來的預期效益與影響,下列敘述何者最正確?
(A)經過量化處理後的模型,在執行時必須即時連回雲端伺服器進行校正,否則手機端將無法獨立運作;
(B)能在完全不影響模型原本輸出品質的前提下壓縮模型體積,並降低記憶體需求;
(C)模型量化後會自動在邊緣裝置上動態增加參數數量,藉此彌補因為精度降低所帶來的能力損失;
(D)能大幅減少模型檔案體積與記憶體佔用量,並加速本機推論回應,但模型輸出品質可能會受到輕微影響

答案:登入後查看
統計: A(0), B(0), C(0), D(1), E(0) #4037338