所屬科目:計算機結構
(一)電腦 B 應具備多少工作頻率才能達到目標?(15 分)
(二)電腦 B 執行該 LLM 推論所消耗的能量為電腦 A 的多少倍?(10 分)
(一) CPI(cycles per instruction)是如何計算而來?(10 分)
(二)有那些因素會影響 LLM 的訓練及運算過程的 CPI?(15 分)
(一)何謂 pipelining?(5 分)
(二)有那些因素會影響 LLM 在這 CPU 的管線裡的執行效能?(10 分)
(三)在一個有 10-stage pipeline 的高效能處理器裡執行 LLM 的訓練。若有 10%的指令產生 hazard,每個 hazard 需多 2 個 clock cycles,則該程式 的 CPI 值為何?(10 分)
(一)在 LLM 的運算中,那一種記憶體裝置最接近 CPU?(5 分)
(二)那些記憶體在斷電後仍能保存原來的資料?(10 分)
(三) LLM 裡的某個矩陣運算在電腦 A 上執行,若 cache miss rate = 0 時 CPI = 1.5。當 cache miss rate = 8%,miss penalty = 20 clock cycles,則 該矩陣運算的 CPI 值為何?(10 分)